Prvi zakon protiv zloupotrebe veštačke inteligencije.

Ovaj potez otvorio je globalnu raspravu: da li su postojeći zakoni dovoljni i koliko su društva spremna na realne posledice AI tehnologija koje mogu da imitiraju ljude, manipulišu informacijama i utiču na javno mnjenje.

Šta tačno predviđa zakon u Južnoj Koreji?

Južnokorejski zakon predstavlja sveobuhvatan regulatorni okvir koji se fokusira na najrizičnije oblike upotrebe veštačke inteligencije. Poseban akcenat stavljen je na tzv. high-risk AI sisteme.

Ključne tačke zakona uključuju:

• Zabranu zloupotrebe AI za obmanu javnosti, naročito kroz deepfake video i audio sadržaje
• Obavezno označavanje AI-generisanog sadržaja, posebno u medijima i političkom kontekstu
• Krivičnu i finansijsku odgovornost za pojedince i kompanije koje koriste AI za manipulaciju, prevaru ili narušavanje privatnosti
• Posebnu zaštitu javnih ličnosti, novinara i državnih institucija
• Formiranje nadzornih tela koja prate primenu zakona i razvoj tehnologije

Drugim rečima, zakon ne zabranjuje veštačku inteligenciju, već jasno definiše šta se sme, a šta ne sme.

Zašto je zakon donet baš sada?

Povod nisu bile teorijske opasnosti, već konkretni incidenti. U Južnoj Koreji su se pojavili:

• AI-generisani politički govori
• Lažni video snimci poznatih ličnosti
• Automatizovani sistemi za masovno širenje dezinformacija

Zakonodavci su zaključili da čekanje znači prepuštanje kontrole tehnologiji, a ne obrnuto.

Srbija i AI: Imamo li pravni okvir?

U Srbiji, veštačka inteligencija se trenutno ne reguliše posebnim zakonom. Umesto toga, AI „upada“ u postojeće propise:

• Zakon o zaštiti podataka o ličnosti
• Krivični zakonik
• Zakon o javnom informisanju i medijima
• Zakon o autorskim i srodnim pravima

Problem je što ovi zakoni nisu pisani za AI, već za klasične digitalne i medijske tehnologije.

Slučaj AI voditelja na srpskoj televiziji

Posebnu pažnju javnosti izazvao je slučaj AI replike TV voditelja emitovane na nacionalnoj televiziji, gde je digitalno rekonstruisan lik Lale Marković.

Iako je projekat tehnički predstavljen kao inovacija, otvorio je niz pitanja:

• Da li je publika jasno obaveštena da gleda AI, a ne stvarnu osobu?
• Ko je vlasnik „digitalnog identiteta“?
• Šta se dešava ako se isti lik sutra koristi za reklame, političke poruke ili dezinformacije?

U trenutnom pravnom okviru u Srbiji, odgovori nisu jasno definisani.

Da li je Srbiji potreban zakon poput korejskog?

Kratak odgovor: da, ali pametno i postepeno. Razlozi su jasni:

• Deepfake sadržaji su već tehnički dostupni svima
• Mediji i društvene mreže nemaju obavezu jasnog označavanja AI sadržaja
• Ne postoji pravna definicija „zloupotrebe AI“
• Građani nemaju jasan mehanizam zaštite

Srbija bi mogla da krene putem posebnog zakona o veštačkoj inteligenciji ili preciznih amandmana postojećih zakona, po uzoru na EU i Južnu Koreju. U oba slučaja, ključno je da zakon štiti građane, a ne da guši inovacije.

Širi kontekst: Evropa, EU i budući pritisci

Evropska unija već radi na AI Act regulativi, što znači da će i zemlje van EU, uključujući Srbiju, morati da se prilagode ukoliko žele tehnološku i pravnu kompatibilnost sa evropskim tržištem. Drugim rečima – pitanje nije da li, već kada.

TechFokus napomena: Veštačka inteligencija nije problem sama po sebi. Problem nastaje kada brzina razvoja tehnologije nadmaši brzinu zakona i etike. Južna Koreja je prva povukla liniju. Ostaje da se vidi ko će je sledeći pratiti – i da li će Srbija reagovati pre nego što zloupotrebe postanu svakodnevica.