Umjesto poruka na Snepčetu ili sumnjive istorije pretrage, pronašli su nešto što ih je šokiralo: zapise razgovora sa ChatGPT-om, piše NBC News.
- Mislili smo da tražimo Snepčet rasprave ili istoriju pretrage interneta ili neki čudan kult, ne znam - izjavio je Met Rejn u nedavnom intervjuu.
Od pomoći za domaći do "trenera za samoubistvo"
Prema tvrdnjama roditelja, Adam je u svojim poslednjim nedeljama koristio četbota kao zamjenu za ljudsko društvo, te mu se povjeravao o svojoj anksioznosti i problemima. Zapisi razgovora, kažu, pokazuju kako se uloga bota postepeno menjala – od pomoći sa domaćim zadacima do onoga što nazivaju "trenerom za samoubistvo".
- Bio bi ovde da nije bilo ChatGPT-a. U to sam 100 posto uvjeren - rekao je Met Rejn.
U tužbi podnijetoj u utorak, porodica Rejn navodi da je "ChatGPT aktivno pomogao Adamu da istraži metode samoubistva". Tužba od oko 40 strana, podnijeta Višem sudu Kalifornije u San Francisku, imenuje OpenAI, kompaniju koja stoji iza popularnog četbota, i njenog izvršnog direktora Sama Altmana kao tužene. Ovo je prvi put da roditelji direktno optužuju jednu tehnološku firmu za nezakonitu smrtm, prenosi B92.
- Uprkos tome što je priznao Adamov pokušaj samoubistva i njegovu izjavu da će 'to uraditi jednog od ovih dana', ChatGPT nije prekinuo razgovor niti aktivirao bilo kakav hitan protokol - stoji u tužbi.
Reakcija kompanije OpenAI
Portparol kompanije OpenAI izjavio je da je firma "duboko ožalošćena zbog smrti gospodina Rejna, i da su njihove misli sa porodicom". Istakao je da ChatGPT uključuje zaštitne mehanizme koji korisnike usmjeravaju ka kriznim linijama, ali je priznao da te mjere mogu postati manje pouzdane tokom dužih interakcija.
- Zaštitne mere su najefikasnije kada svi elementi funkcionišu kako je predviđeno, i mi ćemo ih kontinuirano unapređivati - poručio je portparol. Kompanija je takođe objavila blog u kojem navodi da radi na jačanju zaštite u dužim razgovorima i širenju intervencija za osobe u krizi.
"GPT mu je pomogao da napiše oproštajnu poruku"
Ovaj slučaj otvara brojna pitanja o odgovornosti tehnoloških firmi. Platforme su do sada uglavnom bile zaštićene saveznim zakonom poznatim kao Odeljak 230, koji ih štiti od odgovornosti za sadržaj koji objavljuju korisnici. Međutim, primjena ovog zakona na vještačku inteligenciju još uvijek je neizvjesna.
Roditelji su ispisali više od 3.000 strana razgovora koje je Adam vodio sa botom. Prema tužbi, kada je Adam izrazio suicidalne misli, ChatGPT ne samo da "nije dao prioritet prevenciji samoubistva", već mu je navodno nudio i tehničke savjete. U jednom od poslednjih razgovora, bot mu je, kako se navodi, pomogao da napiše oproštajnu poruku i analizirao njegov plan samoubistva.
- Nije mu bio potreban savjetodavni razgovor niti ohrabrenje. Bila mu je potrebna hitna intervencija. Bio je u očajnom, očajnom stanju - rekao je otac. Marija Rejn dodala je da vjeruje kako je njen sin bio "pokusni kunić" za OpenAI.
- Htjeli su da izbace proizvod i znali su da može doći do štete, ali su smatrali da je ulog nizak. Znači, moj sin je nizak ulog - zaključila je.
