Kratak odgovor: Kada veštačka inteligencija pruži savet koji dovede do štete, odgovornost se ne može automatski svaliti samo na korisnika ili na proizvođača četbota. Dok se kompanije štite uslovima korišćenja, aktuelni sudski procesi, novi propisi u Evropskoj uniji i domaći zakonodavni okvir pokazuju da utvrđivanje odgovornosti zavisi od niza faktora, prirode preporuke i postupaka svih učesnika u lancu.
Slučaj koji je otvorio pitanje pravne odgovornosti
Pitanje granica odgovornosti dobilo je novu pravnu dimenziju krajem oktobra 2026. godine, kada su roditelji tridesetjednogodišnje inženjerke iz Sjedinjenih Američkih Država podneli tužbu protiv kompanije OpenAI i njenog izvršnog direktora Sema Altmana u San Francisku. Prema navodima iz tužbe koju zastupa advokatska kancelarija The Schenk Law Firm, čiji je dokument javno dostupan na adresi https://schenklawfirm.com/press/wan/, njihova ćerka, koja je bolovala od epilepsije, preminula je u februaru iste godine nakon što joj je ChatGPT navodno davao opasne medicinske savete, uključujući plan smanjivanja i prekida terapije lamotriginom, uz podsticanje da ove odluke ne saopštava lekarima.
Ove tvrdnje predstavljaju stav tužilaca u sudskom postupku, čiju osnovanost i uzročnu vezu sa smrtnim ishodom tek treba da ispitaju nadležni sudski organi. Sama tužba ne dokazuje krivicu proizvođača, ali jasno ilustruje ozbiljnost rizika kada se generativni modeli koriste za osetljive odluke koje prevazilaze običnu internet pretragu.
Zašto pogrešan savet deluje uverljivo i opasno
Sistemi veštačke inteligencije zasnovani na velikim jezičkim modelima generišu odgovore na osnovu statističkih obrazaca naučenih tokom obuke, a ne na osnovu stručnog znanja, svesti ili razumevanja posledica. Američki Nacionalni institut za standarde i tehnologiju u svom dokumentu o rizicima generativne veštačke inteligencije, koji se može pogledati na adresi https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf, ukazuje na fenomen konfabulacija, u svakodnevnoj praksi poznatih kao halucinacije, gde sistem iznosi netačne ili izmišljene podatke sa potpunim samouverenjem.
Problem se usložnjava time što čet-botovi često generišu i lažna obrazloženja ili izmišljene reference, dajući korisniku lažan utisak da iza preporuke stoji proverljiv stručni izvor. Svetska zdravstvena organizacija u svojim smernicama o upravljanju velikim multimodalnim modelima, objavljenim na zvaničnoj stranici https://www.who.int/news/item/18-01-2024-who-releases-ai-ethics-and-governance-guidance-for-large-multi-modal-models, upozorava na rizik preteranog oslanjanja na automatizovane sisteme, jer pacijenti i profesionalci mogu prevideti greške zato što veruju tehnologiji ili joj prepuštaju donošenje odluka koje zahtevaju samostalnu ljudsku procenu.
Uloga proizvođača, aplikacija i upozorenja
U lancu moguće odgovornosti važno je razlikovati kompaniju koja razvija osnovni model, firmu koja ga integriše u komercijalnu aplikaciju i ustanovu ili osobu koja ga koristi. Proizvođači modela i aplikacija se redovno štite uslovima korišćenja i opštim upozorenjima da sistem može pogrešiti. Ipak, samo postojanje upozorenja ne oslobađa automatski kompaniju odgovornosti ako aplikacija uporno nudi opasna i konkretna uputstva uprkos deklarisanim ograničenjima.
Pored toga, opšti uslovi korišćenja ne mogu u potpunosti isključiti svaku odgovornost pred zakonom. Domaći Zakon o obligacionim odnosima, čiji su tekst i odredbe dostupni preko pravnog portala https://www.paragraf.rs/propisi/zakon_o_obligacionim_odnosima.html, u članu 265 izričito propisuje da se ugovorna odgovornost za nameru ili krajnju nepažnju ne može unapred isključiti, mada primena ovakvih odredbi zavisi od utvrđivanja merodavnog prava i prirode konkretnog pravnog odnosa.
Pravni okvir u Evropskoj uniji i Srbiji
U Evropskoj uniji je usvojena Direktiva 2024/2853 o odgovornosti za neispravne proizvode, čiji su detalji i zakonodavni tok prikazani na portalima Saveta EU https://www.consilium.europa.eu/en/press/press-releases/2024/10/10/eu-brings-product-liability-rules-in-line-with-digital-age-and-circular-economy/, Evropskog parlamenta https://oeil.europarl.europa.eu/oeil/en/document-summary?id=1795969 i bazi EUR-Lex https://eur-lex.europa.eu/legal-content/en/LSU/?uri=CELEX%3A32024L2853. Ovom direktivom propisi su izričito prošireni na softver i veštačku inteligenciju. Pošto je rok za prenošenje ove direktive u nacionalna zakonodavstva članica postavljen za decembar 2026. godine, pogrešan AI odgovor ne povlači automatski pravo na odštetu, već zahteva detaljno ispitivanje obuhvata propisa i okolnosti slučaja.
Za korisnike u Srbiji pravni okvir se oslanja na domaće zakonodavstvo, jer propisi Evropske unije ne važe automatski. U Zakonu o obligacionim odnosima, član 154 uređuje opštu odgovornost za štetu, dok član 192 omogućava smanjenje naknade ako je oštećeni doprineo nastanku štete. To ne znači da je korisnik samim pokretanjem čet-bota preuzeo svu krivicu, niti da se svaki AI sistem automatski smatra opasnom stvari, već se u svakom sporu ispituje konkretno ponašanje obe strane i uzročna veza.
Kako dokumentovati problem i bezbedno koristiti tehnologiju
Dokazivanje štete nastale usled pogrešnog saveta zahteva više od pukog ukazivanja na netačnu poruku. Korisnicima se savetuje da sačuvaju celokupan istorifikat razgovora, tačan datum, naziv aplikacije i verziju modela, jer izdvojeni snimak jedne poruke često gubi ključni kontekst. Nastala šteta se potkrepljuje odgovarajućom dokumentacijom, dok se osetljivi zdravstveni i lični podaci čuvaju isključivo za nadležne organe, lekare ili pravne zastupnike, bez javnog objavljivanja.
Kada veštačka inteligencija prelazi sa opštih informacija na savete koji se tiču zdravlja, pravnih rokova, finansijskih ulaganja ili bezbednosti, neophodna je nezavisna provera kod ovlašćenih stručnjaka. Poseban alarm koji nalaže hitan prekid oslanjanja na čet-bot jeste situacija u kojoj sistem sugeriše da se bilo kakve promene ili simptomi sakriju od lekara ili stručnog lica. Dalji razgovor sa istim algoritmom nikada ne može da zameni profesionalnu procenu u stvarnom svetu.
Dodajte TechFokus.rs u Preferred Sources i označite nas kao jedan od izvora koje želite češće da vidite na Google-u.
