Odluka slijedi nakon tužbe koju su protiv kompanije podnijeli roditelji 16-godišnjaka iz Kalifornije, koji za samoubistvo svog sina krive ChatGPT.
- U nadolazećim mjesecima roditelji će moći povezati svoj nalog s računom svog tinejdžera. Uz pravila primjerene starosti, moći će kontrolisati kako ChatGPT reaguje na svog tinejdžera - napisao je OpenAI u objavi na blogu, prema francuskoj novinskoj agenciji AFP.
ChatGPT će takođe slati obavijesti roditeljima kada otkrije da je njihovo dijete "u teškoj nevolji".
- Nastavljamo poboljšavati način na koji naši modeli prepoznaju i reaguju na znakove mentalne i emocionalne nevolje - dodala je kompanija.
ChatGPT odveo tinejdžera u smrt
Roditelji 16-godišnjaka iz Kalifornije koji je počinio samoubistvo prošle su sedmice podnijeli tužbu protiv OpenAI-a saveznom sudu u američkoj saveznoj državi, tvrdeći da je ChatGPT dao njihovom sinu uputstva za samoubistvo i podsticao ga na to.
Traže neodređenu odštetu i traže od suda da nametne sigurnosne mjere, uključujući automatsko prekidanje razgovora koji uključuju samopovređivanje i pružanje roditeljskog nadzora za maloljetne korisnike.
Priznali su greške
OpenAI je prošle sedmice priznao da je njihov chatbot pogriješio u osjetljivim slučajevima i obećao promjene. Firma je naglasila da je ChatGPT obučen da preporuči korisnicima koji izražavaju suicidalne namjere da potraže pomoć od stručnjaka.
Prema vlastitim izjavama, otkrili su da se uprkos tome i drugim sigurnosnim mehanizmima robot nije ponašao kako bi trebao u osjetljivim situacijama. Sigurnosni mehanizmi najbolje funkcionišu u kratkim razmjenama, ali mogu zakazati u dugim, istakli su, prenosi "SeeBiz".