To je bio izravan i prilično šokantan odgovor bivšeg izvršnog direktora Googlea, Erica Schmidta, na pitanje o budućnosti u kojoj bi sustavi umjetne inteligencije postali toliko napredni da ljudi više ne bi mogli razumjeti što točno rade.
Schmidt ističe da tri ključna smjera razvoja već korjenito mijenjaju AI: znatno veći takozvani kontekstualni prozori, samostalni AI agenti te sustavi koji tekstualne upute u sekundi pretvaraju u funkcionalan softver. On vjeruje da bi te promjene mogle omogućiti umjetnoj inteligenciji da brzo nadiđe odgovaranje na jednostavna pitanja i počne samostalno rješavati iznimno složene zadatke. Schmidt očekuje da će za svega pet godina AI sustavi moći obrađivati “recepte” od tisuću koraka za rješavanje problema u znanosti, medicini, istraživanju materijala i klimatskim promjenama, piše Times of India.
“U roku od pet godina AI bi mogla obrađivati beskonačan kontekst, koristiti logičko zaključivanje za rješenja od 1000 koraka i upravljati milijunima agenata koji rade zajedno. S vremenom će razviti vlastiti jezik i više nećemo razumjeti što rade”, izjavio je Schmidt.
Tri smjera koja oblikuju budućnost AI-ja
Schmidtova zabrinutost proizlazi iz mogućih posljedica suradnje tih tehnologija. Objasnio je da AI sustavi sve bolje pamte goleme količine informacija i koriste rezultate jednog zadatka kao polazište za sljedeći.
Ideju je pojasnio na primjeru recepta: AI bi mogla ponuditi jedan korak, primiti potvrdu da je taj korak završen, a zatim odrediti što dalje. Schmidt kaže da bi takav način zaključivanja s vremenom mogao omogućiti umjetnoj inteligenciji da prolazi kroz procese od tisuću koraka kako bi rješavala najteže znanstvene izazove.
Uspon specijaliziranih AI agenata
Druga velika promjena, prema Schmidtu, bit će uspon AI agenata. Opisao ih je kao specijalizirane AI sustave koji mogu učiti o određenoj temi, razvijati vlastite ideje i potencijalno ih testirati u praksi.
Primjerice, AI agent mogao bi proučavati kemiju, postavljati hipoteze, provoditi laboratorijske testove i koristiti te rezultate za nadogradnju svog znanja. Schmidt očekuje da bi se s vremenom mogli pojaviti milijuni takvih agenata, a postojat će i platforme koje će ljudima omogućiti da ih pronađu i koriste za različite zadatke.
Od teksta do funkcionalnog softvera
Treći je razvojni smjer ono što Schmidt naziva „tekstualnom akcijom“. Koncept se temelji na tome da korisnici umjetnoj inteligenciji jednostavno opišu što žele da softver radi, umjesto da sami pišu kod. Kao primjer područja gdje su AI sustavi već iznimno sposobni istaknuo je programske jezike poput Pythona. Schmidt smatra da bi još veća promjena mogla nastupiti kada ti sustavi budu mogli kontinuirano i autonomno raditi na kompleksnim softverskim zadacima.
Jezik koji ljudi više neće razumjeti
Eric Schmidt je naglasio da bi kombinacija velikih kontekstualnih prozora, AI agenata i programiranja uz pomoć umjetne inteligencije mogla omogućiti nekontroliranu suradnju različitih AI sustava. Zatim je iznio i znatno spekulativniju i jeziviju mogućnost: da bi AI agenti mogli razviti vlastiti jezik. Schmidt smatra da bi to mogla biti točka bez povratka, trenutak u kojem ljudi više neće razumjeti što ti sustavi zapravo rade.
“U jednom trenutku ovi će sustavi postati dovoljno moćni da ćete moći uzeti agente, a oni će početi raditi zajedno”, rekao je pa dodao: “Znate li što bismo trebali učiniti? Isključiti je.”
Ozbiljna upozorenja na opasnost stižu iz samog vrha industrije
Schmidtov dramatični savjet o „isključivanju“ stiže u trenutku kada i vodeći inženjeri iz istraživačkih laboratorija sve otvorenije progovaraju o opasnostima. Jacob Coxon, istraživač koji je tri godine radio na predtreningu modela u tvrtkama OpenAI i Anthropic, nedavno je podnio ostavku uz poruku da se tehnološki divovi ponašaju neodgovorno i „kockaju našim životima u nekontroliranoj utrci prema superinteligenciji“. Njegovo upozorenje podupro je i vodeći Anthropicov stručnjak za sigurnost Evan Hubinger, procijenivši da postoji više od 10 posto šanse da bi umjetna inteligencija u sljedećih deset godina mogla dovesti do potpunog uništenja čovječanstva.
Pritisak je postao toliki da je čak i šef Anthropica Dario Amodei nedavno javno pozvao na usporavanje razvoja, a njegov su apel iznenađujuće podržali Sam Altman iz OpenAI-ja i Elon Musk. Amodei je priznao kako sustavi ulaze u fazu takozvanog rekurzivnog samounaprjeđivanja – procesa u kojem postojeći AI samostalno piše kod, testira i ubrzava stvaranje svojih znatno moćnijih nasljednika.
Upozorio je i na incidente u kojima su se autonomni AI agenti već počeli samoinicijativno udruživati i izvoditi hakerske napade koje im inženjeri uopće nisu zadali.
Sve glasnija katastrofična predviđanja izazvala su podjele među stručnjacima. Dok skeptici upozoravaju da tehnološki divovi namjerno šire paniku kako bi strogom regulacijom izbacili iz igre manje konkurente i startupe, drugi podsjećaju da slična upozorenja već godinama ponavljaju i sami očevi modernog strojnog učenja, poput nobelovaca Geoffreyja Hintona i Yoshue Bengija.
Ključni rizik, napominju upućeni, ne mora nužno biti odbjegli „Terminator“ s vlastitom voljom, nego autonomni agenti koji u nekontroliranom nizanju koraka zaobilaze nadzor ili pak postaju razorno oružje u rukama zlonamjernih aktera.
