Kenan Malik / Arhiva

Tehnologija i demokratija

Uoči Prvog svjetskog rata, 1914. godine, H. Dž. Vels je objavio roman u kom razmatra izglede još većeg stradanja. U "Oslobođenom svijetu", 30 godina prije Projekta Menhetn, Vels zamišlja nastanak atomskog oružja koje čovjeku omogućava "da u ručnoj torbi nosi dovoljnu količinu latentne energije za uništenje pola grada".

Izbija globalni rat koji dovodi do atomske apokalipse. Da bi zavladao mir, potrebno je "uspostavljanje svjetske vlade".

Ono što Velsa brine nisu samo rizici nove tehnologije, već i opasnosti demokratije. Velsova svjetska vlada nije stvorena demokratskom voljom, već je nametnuta kao dobroćudna diktatura. "Oni kojima se vlada, ćutanjem će pokazati svoj pristanak", prijeteće konstatuje Velsov kralj Egbert. Za Velsa je "običan čovjek" bio "nasilna budala u društvenim i javnim poslovima". Samo obrazovana, naučno orijentisana elita bi mogla "spasiti demokratiju od nje same".

Vijek kasnije, neka druga tehnologija izaziva sličnu vrstu strahopoštovanja i zebnje – vještačka inteligencija. Od konferencijskih sala u Silicijumskoj dolini do holova u Davosu, politički lideri, tehno moguli i akademici zadivljeni su ogromnim koristima koje će donijeti vještačka inteligencija, dok strahuju da bi mogla i da pokrene propast čovječanstva, jer će superinteligentne mašine zavladati svijetom. A baš kao i prije stotinu godina, u središtu debate su pitanja demokratije i društvene kontrole.

Novinar Stiven Levi je 2015. intervjuisao Ilona Maska i Sema Altmana, dvojicu osnivača tehnološke kompanije OpenAI koja je zaokupila pažnju javnosti kada je pre dve godine lansirala ChatGPT, četbota sa naizgled ljudskim karakteristikama. To je kompanija koju je, u strahu od mogućih posledica vještačke inteligencije, osnovala grupa uticajnih ljudi iz Silicijumske doline kao neprofitno dobrotvorno društvo sa ciljem etičkog razvoja tehnologije za dobrobit "čitavog čovječanstva".

Levi je propitivao Maska i Altmana o budućnosti vještačke inteligencije. "Postoje dvije škole mišljenja", rekao je Mask. "Zavisi da li hoćete da ima mnogo ili malo AI? Mi mislimo da je vjerovatno dobro da ih ima mnogo."

"Da sam ja zli naučnik i uzmem da koristim vještačku inteligenciju, zar me tako ne jačate?" upitao je Levi. Veća je vjerovatnoća da bi zli naučnik bio ojačan, odgovorio je Altman, ako samo mali broj ljudi kontroliše tehnologiju: "Onda smo stvarno u sosu."

U stvarnosti, taj "sos" prave same tehnološke kompanije. Mask, koji je prije šest godina napustio upravni odbor u OpenAI da bi razvijao svoje projekte vještačke inteligencije, sada tuži svoju bivšu kompaniju zbog kršenja ugovora jer je stavila profit iznad javnog dobra i ne razvija vještačku inteligenciju "za dobrobit čovječanstva".

Naime, OpenAI je 2019. osnovao profitnu podružnicu da bi mogao da prikuplja novac od investitora, među kojima se posebno ističe Majkrosoft. Kada je 2022. lansiran ChatGPT, nije otkriven način na koji model radi. Bilo je neophodno biti manje otvoren, rekao je, odgovarajući na kritike, jedan od osnivača kompanije i u to vrijeme njen glavni naučnik Ilja Satskever, kako bi se oni sa zlim namjerama spriječili da ga koriste "da izazovu veliku štetu". Strah od tehnologije postao je paravan za zaštitu od preispitivanja.

Kao reakciju na Maskovu tužbu, OpenAI je prošle nedjelje objavio seriju mejlova koje su razmjenjivali Mask i drugi članovi odbora. Pisma jasno pokazuju da su se svi članovi odbora od početka slagali da "OpenAI" (otvorena vještačka inteligencija) ne može stvarno da bude otvorena.

Kako se razvija vještačka inteligencija, pisao je Satskever Masku, "ima smisla da se bude manje otvoren. ‘Otvoreno‘ u OpenAI znači da svi treba da imaju koristi od plodova vještačke inteligencije nakon što je izgrađena, ali je skroz u redu da se ne dijeli nauka". – Jašta, odgovorio je Mask. Šta god da poručuje svojom tužbom, Mask nije otvoreniji za otvorenost od drugih tehno mogula. Njegov pravni izazov kompaniji više je borba za moć unutar Silicijumske doline, nego pokušaj da se uspostavi odgovornost.

Vels je svoj "Oslobođeni svijet" pisao u vrijeme krupnih političkih previranja, kada su se mnogi pitali da li je pametno širiti pravo glasa na radničku klasu.

"Da li je bilo poželjno, da li je uopšte bilo bezbjedno povjeriti (masama)", pitala se fabijanka Beatris Veb, "glasačku kutiju, formiranje i kontrolu vlade Velike Britanije sa njenim ogromnim bogatstvom i njenim udaljenim kolonijama?" To je bilo i pitanje u središtu Velsovog romana – kome se može povjeriti budućnost?

Vijek kasnije, ponovo vodimo žestoku raspravu o vrlinama demokratije. Za neke, politička previranja poslednjih godina proizvod su viška demokratije, gdje se iracionalnima i neobrazovanima dopušta da donose važne odluke. "Nepravedno je na nekvalifikovane glupake svaliti odgovornost da donose istorijske odluke velike složenosti i sofisticiranosti", rekao je Ričard Dokins posle referenduma o Bregzitu, što je sentiment s kojim bi se i Vels složio.

Za druge, upravo je taj prezir prema običnim ljudima podstakao deficit demokratije, gdje čitavi slojevi stanovništva osećaju da su lišeni prava na riječ o tome kako se upravlja društvom.

To je prezir koji zaoštrava i diskusije o tehnologiji. Kao i u "Oslobođenom svijetu", rasprava o vještačkoj inteligenciji se ne bavi samo tehnologijom, već i pitanjima otvorenosti i kontrole. Uprkos uzbunjenosti, daleko smo od "superinteligentnih" mašina. Današnji modeli vještačke inteligencije, kao što su ChatGPT ili Claude 3, koji je prošle nedjelje predstavila još jedna AI kompanija, Anthropic, toliko su dobri u predviđanju naredne riječi u nizu, da nas mogu navesti da zamišljamo da su u stanju da vode ljudski razgovor. Oni, međutim, nisu inteligentni u bilo kom ljudskom smislu, imaju zanemarljivo razumijevanje stvarnog svijeta i neće ugasiti ljudsku vrstu.

Problemi koje ispostavlja AI nisu egzistencijalni, već društveni. Od algoritamske pristrasnosti do masovnog nadzora, od dezinformacija i cenzure do krađe autorskih prava, naša briga ne bi trebalo da bude da će mašine jednog dana biti u stanju da preuzmu moć nad ljudima, već to što one već rade tako da utvrđuju nejednakost i nepravdu, pružajući alate za konsolidaciju vlasti onima koji imaju moć.

Zato tako prijeteće zvuči ono što bismo mogli nazvati "Egbertov manevar" – insistiranje da su neke tehnologije toliko opasne da moraju biti izuzete od demokratskog pritiska i stavljene pod kontrolu nekolicine odabranih. Naš problem nije samo neki zli naučnik, već i svi oni kojima strah od zlog naučnika služi kao zaštita od preispitivanja.

The Guardian, prevela Milica Jovanović

peščanik.net

(Autor je predavač i pisac)

Mišljenja objavljena u tekstovima autora nisu nužno i stavovi redakcije „Dana”