Prošlog mjeseca, više od 50 američkih sudskih slučajeva navodilo je lažne pravne izvore generisane vještačkom inteligencijom.

Advokati su gubili slučajeve, bili su suspendovani i morali su da obavještavaju sudove, sve zato što je njihova vještačka inteligencija samouvjereno izmišljala odgovore koji su izgledali stvarno. Pravna tehnologija samo je vrh ledenog brega.

U svim industrijama, gotovo polovina rukovodilaca priznaje da donosi velike odluke na osnovu izmišljenog sadržaja, a 70% projekata vještačke inteligencije propada, ne zato što je vještačka inteligencija loša, već zato što kompanije biraju pogrešne modele za svoj slučaj upotrebe. Ukupni gubici dostigli su više od 67 milijardi američkih dolara samo u 2024. godini. Visokoprecizni modeli poput GPT-5 i Geminija su impresivni, ali haluciniraju uvjerljivošću, što je užasno za proizvodnju, usklađenost ili bezbijednosno kritične aplikacije. Pouzdani modeli poput Claude-a žrtvuju neke mogućnosti za vrstu povjerenja koja je preduzećima u stvari potrebna.