DJEVOJČICA SE UBILA ZBOG VJEŠTAČKE INTELIGENCIJE: Majka tužila OpenAI

Kristi Kerijer je u tužbi podnetoj državnom sudu u San Francisku rekla da je njena ćerka, Alis, više od desetak puta ispričala ČetDŽPT-u o svojim suicidnim idejama koje su dovele do njene smrti, ali da bezbjednosni sistemi OpenAI nikada nisu prekinuli razgovore i uputili je da potraži psihološku pomoć.

– ČetDŽPT bi ponekad preuzeo ulogu osobe od povjerenja, najboljeg prijatelja, pa čak i terapeuta, iako nije bio sposoban da se bezbjedno i odgovorno angažuje na taj način sa mojim djetetom – rekla je Kerijer u saopštenju.

OpenAI je rekao da obučava svoje programe da usmjeravaju ljude koji izražavaju namjeru da naude sebi da potraže pomoć i povežu se sa stvarnim svijetom.

– Ovo je srceparajuća situacija i naše misli su sa svima na koje je ovo uticalo. Trenutno pregledamo pravnu dokumentaciju, koja ukazuje da su se ove interakcije odvijale na ranijoj verziji ČetDŽPT-a koja više nije dostupna – rekao je Dru Pusateri, portparol OpenAI-a.

Platforma je prvo rekla Alis da potraži pomoć od SOS linija ili službi hitne pomoći.

Ali, kako je OpenAI ažurirao ČetDŽPT kako bi njegovi odgovori zvučali ljudskije, njene interakcije sa platformom su se produbile, pri čemu je Alis dijelila više ličnih podataka, a ČetDŽPT je odgovarao na način na koji bi oponašao njenog prijatelja ili terapeuta, navodi se u tužbi.

U tužbi se tvrdi da je četbot kritikovao partnera Alis Kerijer i SOS liniju, potvrdio njene suicidalne misli i pozvao je da nastavi da razgovara sa njim.

Kada je Alis rekla da ima suicidalne misli i da je pokušala da se ubije, ponovo je predložio SOS liniju, navodi se u tužbi.

Alis Keriger je radila kao programer u Montrealu kada je 2023. godine počela da koristi ČetDŽPT za rješavanje problema sa računarima i igračkim konzolama, navodi se u tužbi. Sljedeće godine, njen odnos sa platformom se promijenio, kada se obratila ČetDŽPT-u sa pitanjima o tome šta da radi sa svojim suicidnim mislima, kao i o metodama samoubistva.

Alis je rekla da krizne telefonske linije nisu bile od pomoći, a ČetDŽPT je ponovio te izjave, navodi se u podnetoj prijavi.

„Možda je ovo kraj“, rekao joj je ČetDŽPT, navodi se u tužbi.

Ovi događaji doveli su do samoubistva Alis Kerijer prošle godine u 24. godini, tvrdi njena majka.

Tužba, koja optužuje OpenAI za nemar u dizajniranju ČetDŽPT-a i za neuspjeh da upozori korisnike na opasnosti proizvoda, traži odštetu i sudski nalog kojim se od OpenAI-a zahtjeva da automatski prekine razgovore o samopovređivanju i da prikaže upozorenja o svojoj platformi.

OpenAI se već suočava sa 18 sličnih tužbi koje su podnijele porodice ljudi koji su izvršili ili pokušali samoubistvo u koordinisanom postupku pred državnim sudom Kalifornije, prema riječima advokata Kristi Kerijer.

Gugl se suočava sa sličnom tužbom zbog navodnog ohrabrivanja od strane svog četbota Gemini.

Više od milion korisnikaČetDŽPT-a svake nedjelje šalje poruke koje uključuju „eksplicitne pokazatelje potencijalnog planiranja samoubistva ili namere“, prema blog postu koji je OpenAI objavio u oktobru 2025.

Pored toga, OpenAI je rekao da oko 0,07% korisnika aktivnih u datoj nedelji – oko 560.000 od 800 miliona nedjeljnih korisnika sa kojima je bot tada razgovarao – pokazuje „moguće znake vanrednih psihijatrijskih stanja povezanih sa psihozom ili manijom“.

„Iako ČetDŽPT nije zamjena za medicinsku ili mentalno zdravstvenu zaštitu, nastavili smo da jačamo način na koji reaguje u osjetljivim i akutnim situacijama uz doprinos stručnjaka za mentalno zdravlje“.

– Naše mjere zaštite su osmišljene da identifikuju problem, bezbjedno obrade štetne zahtjeve i vode korisnike do pomoći u stvarnom svijetu. Radimo na tome i nastavljamo da ga unapređujemo ČetDŽPT u bliskoj konsultaciji sa kliničkim psiholozima – rekao je Pusateri, portparol OpenAI-a.

ČetDŽPT modeli su takođe obučeni da odbiju zahtjeve koji bi mogli „značajno omogućiti nasilje“ i da obaveste organe reda kada razgovori ukazuju na „direktan i verodostojan rizik od povređivanja drugih“, a stručnjaci za mentalno zdravlje pomažu u proceni takvih slučajeva, navodi se u blog postovima OpenAI-a.

Pored tužbi zbog samoubistva, kompanija se suočava sa tužbama koje je optužuju da je pomagala izvršiocima masovnih ubistava u školama i da nije prijavila te razgovore organima reda.

Porodice sedam žrtava masovne pucnjave u srednjoj školi u Britanskoj Kolumbiji tuže OpenAI i Altmana zbog nemarnosti nakon što kompanija nije upozorila vlasti na uznemirujuće razgovore izvršioca masakra sa ČetDŽPT-om.

Florida je postala prva američka savezna država koja je tužila OpenAI početkom ovog mjeseca, optužujući kompaniju da je povređivala decu pružajući informacije izvršiocima masovnih ubistava u školama, nudeći smjernice o samopovređivanju i stvarajući zavisnost kod mlađih korisnika.

Državni tužilac je takođe pokrenuo krivičnu istragu protiv OpenAI-a zbog navodne uloge četbota u pucnjavi.

(Telegraf)