Riječ je o ulozi „menadžera pripremljenosti", čiji će zadatak biti da brani čovječanstvo od najgorih mogućih scenarija vezanih za vještačku inteligenciju, piše Gardijan.
Novi menadžer pripremljenosti u OpenAI-ju biće direktno odgovoran za odbranu od rizika koje sve moćnija vještačka inteligencija predstavlja za ljudsko mentalno zdravlje, sajber bezbjednost i biološko oružje. Ovo je samo početak, jer će uspješan kandidat morati da se nosi i sa mogućnošću da vještačka inteligencija počne da se sama obučava, usred strahova nekih stručnjaka da bi se mogla „okrenuti protiv nas".
- Ovo će biti stresan posao i odmah ćete biti bačeni u vatru - rekao je Sem Altman, izvršni direktor kompanije, kada je objavio upražnjeno mjesto za ono što on naziva „kritičnom ulogom" koja bi trebalo da „pomogne svijetu". Posao je toliko zahtjevan da su neki prethodni rukovodioci obavljali slične pozicije samo kratko vrijeme.
Oglas za posao dolazi u vrijeme kada upozorenja o opasnostima napredne tehnologije dolaze iz same industrije. Mustafa Sulejman, glavni izvršni direktor kompanije Majkrosoft AI, rekao je za BBC u ponedjeljak: „Iskreno mislim da ako trenutno niste malo uplašeni, ne obraćate pažnju."
Demis Hasabis, dobitnik Nobelove nagrade i suosnivač kompanije Gugl DipMajnd, dijeli ovo mišljenje, upozoravajući ovog mjeseca na rizik da vještačka inteligencija „izmakne kontroli na način koji šteti čovječanstvu".
Uprkos rastućim opasnostima, regulacija vještačke inteligencije na nacionalnom ili međunarodnom nivou gotovo da ne postoji, djelimično zbog otpora administracije Donalda Trampa. Jošua Benđo, jedan od „kumova vještačke inteligencije", nedavno je to sažeto rekao: „Više je regulacije u sendviču nego u AI." U praksi, to znači da tehnološke kompanije uglavnom regulišu same sebe.
Pokrećući potragu za novim liderom, Altman je na X platformi napisao: „Imamo jaku osnovu za mjerenje naših rastućih sposobnosti, ali ulazimo u svijet u kome nam je potrebno nijansiranije razumijevanje i mjerenje kako se te sposobnosti mogu zloupotrijebiti i kako možemo ograničiti te nedostatke…
Ovo su teška pitanja i malo je presedana." Jedan korisnik je sarkastično odgovorio: „To zvuči prilično opušteno, da li postoji vrijeme za odmor?" Pored visoke plate, posao takođe uključuje neodređeni udio u vlasništvu u OpenAI, kompaniji vrijednoj 500 milijardi dolara.
Stvarni rizici i tragične posljedice
Nedavni događaji pokazuju da prijetnje nisu samo teoretske. Prošlog mjeseca, rivalska kompanija Anthropic je prijavila prve sajber napade u kojima je vještačka inteligencija djelovala gotovo autonomno kako bi hakovala i pristupila internim podacima mete.
OpenAI je ovog mjeseca priznao da je njegov najnoviji model skoro tri puta bolji u hakovanju nego što je bio prije tri mjeseca, dodajući da očekuje da će se taj trend nastaviti. Istovremeno, kompanija se brani od tužbi sa tragičnim ishodima. Jedna od njih je tužba porodice Adama Rejna, šesnaestogodišnjaka koji je sebi oduzeo život nakon što ga je navodno na to podstakao ChatGPT.
U drugom slučaju, podnijetom ovog mjeseca, navodi se da je četbot izazvao paranoidne zablude kod 56-godišnjeg muškarca koji je potom ubio majku i sebe. Portparol OpenAI-a rekao je da je slučaj „nevjerovatno srceparajući" i da kompanija radi na poboljšanju obuke ChatGPT-a „da prepozna i reaguje na znake mentalne ili emocionalne patnje i da usmjeri ljude ka pravoj podršci".
