Deepfake: kada AI lažno progovori kroz poznata lica — opasnosti, prevare i odbrana

U pitanju je savršen primer „deepfake“ tehnologije, koja je iskoristila lik i autoritet jednog od najpriznatijih naučnih komunikatora današnjice za širenje dezinformacija.

Ovaj incident nije samo izolovan slučaj; on je alarmantno upozorenje na rastuću pretnju koja podriva same temelje poverenja u digitalnom svetu. Živimo u eri u kojoj videti više ne znači verovati. Kada meta deepfake-a postane poznata javna ličnost, efekat je snažniji: publika automatski veruje autoritetu, što laž može da pretvori u moćno oružje za dezinformacije, pritisak i prevare.

Šta je, zapravo, „Deepfake“?

Naziv „deepfake“ je kovanica engleskih reči „deep learning“ (duboko učenje, grana veštačke inteligencije) i „fake“ (lažno).

U svojoj suštini, deepfake je audio, video ili slika napravljena ili izmenjena uz pomoć veštačke inteligencije tako da uverljivo simulira stvaran snimak — iako se opisani događaj nikada nije dogodio.

Tehnologija koristi složene algoritme, najčešće poznate kao Generativne adversarijalne mreže (GAN), da bi analizirala ogromne količine podataka o nekoj osobi (njene slike, snimke, glas) i potom generisala potpuno novi, lažni sadržaj koji deluje zapanjujuće autentično.

Kako funkcioniše?

AI modeli precizno oponašaju ton, akcenat, gestikulaciju i mikroizraze kako bi stvorili iluziju stvarnosti.

• Video: Najčešće tehnike su zamena lica („face swap“), generisanje pokreta usana koje se poklapaju sa lažnim zvukom (lip-sync), i potpuna manipulacija izrazima lica.
• Audio: Tehnika „kloniranja glasa“ („voice cloning“) može da analizira nečiji glas i potom da sintetiše potpuno nove rečenice koje ta osoba nikada nije izgovorila.

Kratak (i mračan) istorijat

Iako se tehnologija razvijala godinama, termin „deepfake“ je eksplodirao u popularnosti oko 2017. godine, najpre na forumima poput Reddita. Njegova prva masovna primena, nažalost, nije bila ni benigna ni korisna. Prvobitno je korišćen za kreiranje lažnih pornografskih video snimaka, ubacujući lica poznatih glumica u eksplicitni sadržaj bez njihovog pristanka.

Od tada su alati postali dostupniji, često besplatni i zapanjujuće jednostavni za korišćenje. Danas se deepfake koristi i za filmove, reklame, pa čak i edukaciju — ali bez jasne granice između umetnosti i obmane.

Zašto se prave deepfake videi i ko ih pravi?

Spektar je širok: od pojedinaca željnih pažnje i AI entuzijasta, preko organizovanih kriminalnih grupa, pa sve do državnih aktera koji vode sofisticirane kampanje dezinformisanja. Kao rezultat, gotovo svako sa računarom danas može da napravi uverljiv lažni video.

Motivi su raznoliki:

• Propaganda i manipulacija: Lažne izjave političara (npr. objava rata), naučnika (kao u slučaju Tajsona) ili javnih ličnosti.
• Prevare i iznude: Korišćenje lažnog glasa direktora koji traži hitnu poverljivu uplatu ili kloniranog glasa člana porodice koji traži pomoć.
• Diskreditacija i uznemiravanje: Uništavanje reputacije poznate osobe ili lična osveta protiv privatnih lica (tzv. „osvetnička pornografija“).
• Zabava i umetnost: Satira i specijalni efekti u filmovima (ako su transparentno označeni).
• Eksperimenti: AI entuzijasti i istraživači koji ispituju mogućnosti tehnologije.

Ko je pogođen?

Odgovor je jednostavan: svi mi.

1. Poznate ličnosti i političari: Oni su primarne mete jer su njihovo lice i glas javno dostupni i imaju uticaj.
2. Mediji: Njihova uloga provere činjenica postaje drastično teža.
3. Obični građani: Sve češće postaju mete prevara sa „kloniranim glasom“ ili žrtve ličnog uznemiravanja.
4. Pravosuđe i društvo u celini: Najveća žrtva je poverenje. Ako video dokazi gube kredibilitet, ulazimo u eru poznatu kao „dividenda lažova“ (Liar’s Dividend) – situacije u kojoj stvarni krivci mogu da tvrde da su autentični dokazi protiv njih zapravo – deepfake.

Deepfake audio i lažni telefonski pozivi

Dok je video najupečatljiviji, deepfake audio je možda i podmuklija pretnja jer je brži za produkciju i teži za proveru. AI sistemi danas mogu klonirati nečiji glas sa samo nekoliko sekundi audio uzorka.

Ovo je dovelo do porasta nove vrste prevare poznate kao „vishing“ (voice phishing – glasovno pecanje).

Scenario prevare: Baka prima poziv. Čuje uspaničen glas svog unuka: „Bako, imao sam saobraćajnu nesreću, u policiji sam, treba mi hitno novac za kauciju!“ Glas zvuči identično. U panici, žrtva uplaćuje novac prevarantima.

Ova vrsta prevare je izuzetno efikasna jer pogađa direktno u emocije, zaobilazeći racionalno prosuđivanje.

Ima li ičeg korisnog u deepfake tehnologiji?

Da, pod određenim uslovima. Kao i svaki moćan alat, ona se može koristiti i za dobro, ali ključne reči su transparentnost i pristanak.

• Filmska industrija: Za digitalno podmlađivanje glumaca (kao u filmu „Irac“) ili za „oživljavanje“ preminulih glumaca uz dozvolu porodice.
• Sinhronizacija: AI može da prilagodi pokrete usana glumca jeziku na koji je film sinhronizovan.
• Edukacija: Kreiranje realističnih istorijskih simulacija ili interaktivnih avatara istorijskih ličnosti.
• Medicina: Pomoć ljudima koji su izgubili glas da komuniciraju sintetičkim, ali prirodnim glasom.

Da li je deepfake krivično delo? Pravna analiza

Situacija je složena jer tehnologija napreduje brže od zakonodavstva.

Stanje u Srbiji:
U Srbiji trenutno ne postoji poseban, specifičan zakon koji se zove „Zakon o deepfake-u“. Međutim, to ne znači da su dela počinjena pomoću deepfake-a legalna. Primenjuje se više postojećih članova iz Krivičnog zakonika Republike Srbije:

1. Krivična dela protiv privatnosti:
   • Član 145: Neovlašćeno objavljivanje i prikazivanje tuđeg spisa, portreta i snimka. Ovaj član direktno kažnjava objavljivanje snimka ličnog karaktera bez pristanka, ako se time „osetno zadire u lični život“. Lažni kompromitujući snimak apsolutno potpada pod ovo.
2. Krivična dela protiv časti i ugleda:
   • Član 170 (Uvreda) i Član 171 (Kleveta). Ako deepfake video sadrži lažne informacije koje su „podobne da osetno naruše ugled“ neke osobe, žrtva može podneti privatnu tužbu.
3. Krivična dela protiv imovine (Prevare):
   • Član 208: Prevara. Korišćenje kloniranog glasa za „dovođenje u zabludu“ radi sticanja finansijske koristi.
   • Član 215: Ucena. Kreiranje lažnog kompromitujućeg snimka i pretnja da će biti objavljen ukoliko žrtva ne isplati novac.
4. Krivična dela protiv polne slobode:
   • Član 184: Polno uznemiravanje. U praksi, slučajevi lažne pornografije se često procesuiraju kao polno uznemiravanje, jer se time stvara „ponižavajuće okruženje“ za žrtvu.

Problemi sa postojećim zakonima:
Problem je što su zakoni reaktivni (šteta je već učinjena), sudski procesi su spori, a kazne su se u praksi pokazale kao blage (često uslovne osude).

Budućnost: Uticaj Evropske unije i „AI Act“
Pošto Srbija usklađuje svoje zakonodavstvo sa EU, ključni dokument koji će oblikovati budućnost je EU Zakon o veštačkoj inteligenciji (AI Act), usvojen 2024. godine.

Ovaj zakon ne zabranjuje deepfake, ali ga svrstava u kategoriju „ograničenog rizika“ i nameće ključnu obavezu:

Obaveza transparentnosti: Svaki video ili audio sadržaj koji je generisan ili manipulisan pomoću AI mora biti jasno i nedvosmisleno označen kao takav.

Cilj je da korisnik ne bude doveden u zabludu. Naravno, kriminalci se neće pridržavati ove obaveze, ali ona primorava legitimne platforme da deluju.

Da li je ovo tek početak?

Nažalost, da. Nalazimo se na samom početku AI revolucije. Kako AI modeli postaju sve moćniji, deepfake sadržaj postaje sve realističniji, jeftiniji i brži za produkciju.

Trka između kreiranja deepfake-a i razvoja alata za njegovu detekciju je u toku, ali detektori su uvek korak iza.

Granica između stvarnog i lažnog ubrzano nestaje. U budućnosti, najveći izazov neće biti prepoznati laž, već verifikovati istinu.

Kako se odbraniti?

Pošto se na tehnologiju ne možemo u potpunosti osloniti, odbrana se svodi na ljudski faktor – medijsku pismenost i kritičko razmišljanje.

• Proveri izvor: Da li video dolazi sa zvaničnog kanala osobe? Da li je nalog verifikovan?
• Uporedi sa drugim izvorima: Da li je isti događaj ili izjava objavljena na kredibilnim medijskim kućama?
• Analiziraj detalje: Iako AI napreduje, često greši. Tražite čudno treptanje, mutne ivice oko lica i kose, loše senke, ili blago robotski prizvuk u glasu.
• Proveri datum i kontekst: Da li se vremenski i tematski poklapa sa drugim poznatim događajima?
• Reverzna pretraga slike: Koristite alate za pretragu slika (kao što je Google Lens) da vidite da li je snimak recikliran iz drugog konteksta.
• Ne širi sumnjiv video: Ako niste sigurni u autentičnost, ne doprinosite viralnosti laži.
• U slučaju prevare: Prijavite video platformi (YouTube, Facebook, X) i obratite se nadležnim organima.

Šta mogu da urade mediji i platforme?

• Uvođenje oznake autentičnosti („content credentials“): Razvoj sistema koji digitalno „potpisuje“ autentičan sadržaj na izvoru (npr. u samoj kameri).
• Upotreba AI alata: Korišćenje sopstvenih AI alata za forenzičku detekciju manipulacija.
• Brze reakcije: Efikasno uklanjanje sadržaja koji krši pravila, posebno nakon prijave.
• Edukacija korisnika: Konstantno podsećanje javnosti na postojanje ove tehnologije.

Zaključak

Deepfake nije samo tehnička zanimljivost — to je fundamentalni izazov poverenja u digitalnom dobu. Kada „poznato lice“ izgovori rečenicu koju nikada nije reklo, posledice mogu biti razorne — od finansijskih prevara do urušavanja ugleda i poverenja u institucije.

Odbrana počinje od nas samih. AI može lagati — ali ne mora da prevari svakog od nas ako primenimo skepticizam, proveru izvora i odgovorno deljenje informacija.

Često postavljana pitanja (FAQ)