Deepfake tehnologija: Kako prepoznati lažni video i koliko smo ugroženi?

Zagreb, 19. lipnja 2025. – U digitalnom dobu u kojem živimo, granica između stvarnosti i vješto izrađene iluzije postaje sve tanja. Tehnologija koja to ponajbolje oslikava i koja izaziva sve veću zabrinutost jest deepfake. Nekoć domena znanstvene fantastike, danas je postala dostupna i sofisticirana prijetnja koja ima potencijal narušiti povjerenje u digitalni sadržaj, ugroziti osobnu sigurnost i čak destabilizirati društvene i političke prilike. No, što je točno deepfake, kako ga prepoznati i kolika je stvarna opasnost za prosječnog građanina?

Što je Deepfake i kako funkcionira?

Pojam “deepfake” složenica je engleskih riječi “deep learning” (duboko učenje) i “fake” (lažno). Riječ je o naprednoj tehnici umjetne inteligencije koja koristi algoritme dubokog učenja, posebice generativne suparničke mreže (GAN), kako bi stvorila ili izmijenila video ili audio sadržaj s ciljem da izgleda autentično.

Proces stvaranja deepfakea pojednostavljeno funkcionira tako da se dvije neuronske mreže “natječu” jedna protiv druge. Jedna mreža, poznata kao generator, stvara lažne slike ili videozapise na temelju velikog broja postojećih fotografija i snimaka ciljane osobe. Druga mreža, diskriminator, pokušava otkriti je li sadržaj koji joj generator prikazuje stvaran ili lažan. Kroz tisuće ili milijune ponavljanja, generator postaje sve vještiji u stvaranju uvjerljivih lažnjaka koje diskriminator sve teže razlikuje od originala. Rezultat može biti iznimno realističan video u kojem osoba govori ili radi stvari koje u stvarnosti nikada nije.

Opasnosti koje vrebaju iz digitalnih sjena

Potencijalne zlouporabe deepfake tehnologije su brojne i zastrašujuće. One sežu od osobnih osveta i narušavanja ugleda do prijetnji nacionalnoj sigurnosti.

Dezinformacije i politička manipulacija: Jedna od najvećih opasnosti leži u mogućnosti kreiranja lažnih videozapisa političara koji daju zapaljive izjave, priznaju zločine ili objavljuju lažne informacije. Takav sadržaj, plasiran u ključnom trenutku, može utjecati na izbore, izazvati društvene nemire ili potkopati povjerenje u institucije. Svjedočili smo primjerima lažnih videa svjetskih lidera koji su, iako brzo razotkriveni, pokazali koliki je potencijal za stvaranje kaosa.

Financijske prijevare i krađa identiteta: Kriminalci mogu koristiti deepfake za lažno predstavljanje. Zamislite audio snimku glasa vašeg direktora koji od vas traži hitnu isplatu veće svote novca na nepoznati račun. U poslovnom svijetu već su zabilježeni slučajevi milijunskih prijevara izvedenih upravo pomoću kloniranih glasova.

Narušavanje ugleda i ucjene: Na osobnoj razini, deepfake se najčešće koristi za stvaranje lažnog pornografskog sadržaja, tzv. “osvetničke pornografije”, gdje se lice osobe montira na tijelo druge osobe bez pristanka. Ovo može imati razorne psihološke posljedice za žrtve. Također, tehnologija se može koristiti za ucjenu, prijeteći objavom kompromitirajućih, iako lažnih, videozapisa. U Hrvatskoj i svijetu zabilježeni su slučajevi zlouporabe slika i glasova javnih osoba, od političara do televizijskih voditelja, u svrhu dezinformiranja ili prijevare.

Kako prepoznati lažni video?

Iako deepfake tehnologija napreduje velikom brzinom, još uvijek postoje znakovi koji mogu odati lažni sadržaj. Kritičko promišljanje i obraćanje pozornosti na detalje ključni su za prepoznavanje manipulacije.

1. Analiza lica i pokreta:

• Neprirodno treptanje: Deepfake algoritmi često imaju problem s repliciranjem prirodnog ritma treptanja. Osoba na snimci može treptati prerijetko ili prečesto.
• Loša sinkronizacija usana: Obratite pozornost na pokrete usana. Ako se ne podudaraju savršeno s izgovorenim riječima, to je jasan znak za uzbunu.
• Čudni izrazi lica: Emocije mogu izgledati “drveno” ili neprirodno. Prijelazi između različitih izraza lica mogu biti nagli i neuvjerljivi.
• Mutni rubovi: Oko lica, kose ili ramena osobe može se primijetiti blago zamućenje ili digitalni artefakti, pogotovo pri pokretima.

2. Tehnički detalji snimke:

• Nedosljedno osvjetljenje i sjene: Osvjetljenje na licu osobe možda se ne podudara s osvjetljenjem ostatka scene. Sjene mogu padati pod čudnim kutovima.
• Neeстествен тен: Boja kože može izgledati neujednačeno, blago isprano ili s neprirodnim tonovima.
• Kvaliteta zvuka: Zvuk može biti robotski, bez uobičajenih pozadinskih šumova ili s naglim promjenama u tonu i kvaliteti.

3. Provjera izvora i konteksta:

• Tko je izvor? Uvijek provjerite tko je objavio video. Dolazi li s provjerenog i uglednog medijskog kanala ili s nepoznatog profila na društvenim mrežama?
• Izaziva li snažnu emocionalnu reakciju? Dezinformacije često ciljaju na izazivanje bijesa, straha ili šoka kako bi se brže širile. Budite skeptični prema sadržaju koji vas pokušava emocionalno uzburkati.

Zakonska regulativa i budućnost

Prepoznavši prijetnju, Europska unija donijela je Akt o umjetnoj inteligenciji (AI Act), prvi sveobuhvatni zakonodavni okvir na svijetu koji regulira ovo područje. Akt klasificira sustave umjetne inteligencije prema razini rizika, a deepfake sadržaj potpada pod pravila o transparentnosti. To znači da će kreatori takvog sadržaja morati jasno označiti da je riječ o umjetno generiranom materijalu. Hrvatska, kao članica EU, također implementira ove odredbe u svoje zakonodavstvo.

Deepfake tehnologija je moćan alat s dvostrukom oštricom. Iako ima potencijal za pozitivnu primjenu u filmskoj industriji, obrazovanju ili medicini, njezina zlouporaba predstavlja ozbiljnu i rastuću prijetnju. U svijetu u kojem više ne možemo slijepo vjerovati vlastitim očima i ušima, razvoj digitalne pismenosti i kritičkog razmišljanja postaje naša prva i najvažnija linija obrane. Sumnja i provjera postaju ključni alati za snalaženje u novom digitalnom krajoliku, kako bismo zaštitili sebe, svoje bližnje i temelje društva u kojem živimo.