Eric Schmidt, čovjek koji je deset godina vodio Google, kaže da nas tri novosti u razvoju umjetne inteligencije vode prema sustavima koje ljudi više neće razumjeti. Njegov savjet za taj trenutak stane u dvije riječi.
Eric Schmidt bio je izvršni direktor Googlea od 2001. do 2011. i jedno je od najpoznatijih imena tehnološke industrije. Nedavno je dobio pitanje što učiniti u budućnosti u kojoj umjetna inteligencija postane toliko napredna da ljudi više ne mogu razumjeti što ona radi. Odgovorio je kratko: „Isključite je.”
Schmidt navodi tri promjene koje, kako tvrdi, već mijenjaju umjetnu inteligenciju. Prva je sve veća sposobnost sustava da pamte i obrađuju golemu količinu podataka odjednom. Druga su takozvani agenti, posebni programi koji sami uče o nekoj temi i rješavaju zadatke. Treća je mogućnost da čovjek običnim rečenicama opiše što želi, a da mu sustav sam napiše programski kod, prenosi Index.
Prema njegovoj procjeni, za pet godina umjetna inteligencija moći će rješavati probleme u tisuću koraka, i to u znanosti, medicini, istraživanju materijala i klimatskim promjenama.
„U roku od pet godina umjetna inteligencija mogla bi obrađivati beskonačan kontekst, koristiti logičko zaključivanje za rješenja od tisuću koraka i upravljati milijunima agenata koji rade zajedno. S vremenom će razviti vlastiti jezik i više nećemo razumjeti što rade”, izjavio je.
Schmidt objašnjava da sustavi sve bolje pamte podatke i da rezultat jednog zadatka koriste kao početak sljedećeg. Na primjeru recepta to izgleda ovako: sustav ponudi jedan korak, dobije potvrdu da je gotov, pa odredi što slijedi. Ponavljanjem tog postupka mogao bi doći do rješenja u tisuću koraka.
Kod agenata očekuje da će ih se s vremenom pojaviti milijune. Jedan agent mogao bi, primjerice, proučavati kemiju, postavljati pretpostavke, provoditi laboratorijske pokuse i tim rezultatima nadograđivati vlastito znanje.
Najviše zabrinjava posljednji dio. Schmidt smatra da bi spajanje tih tehnologija moglo dovesti do toga da agenti razviju vlastiti jezik i počnu surađivati. Tada, upozorava, ljudi više neće razumjeti što ti sustavi rade.
„U jednom trenutku ovi će sustavi postati dovoljno moćni da ćete moći uzeti agente, a oni će početi raditi zajedno”, rekao je, pa dodao: „Znate li što bismo trebali učiniti? Isključiti je.”
Schmidt nije jedini koji upozorava. Jacob Coxon, istraživač koji je tri godine radio na razvoju modela u tvrtkama OpenAI i Anthropic, dao je ostavku uz poruku da se te tvrtke ponašaju neodgovorno i da se „kockaju našim životima u utrci prema superinteligenciji”. Njegovo je upozorenje podržao vodeći Anthropicov stručnjak za sigurnost Evan Hubinger, koji je procijenio da postoji više od deset posto vjerojatnosti da bi umjetna inteligencija u sljedećih deset godina mogla uništiti čovječanstvo.
Pritisak je narastao toliko da je i čelnik Anthropica Dario Amodei pozvao na usporavanje razvoja, a podržali su ga Sam Altman iz OpenAI-ja i Elon Musk. Amodei upozorava da postojeći sustavi već sami pišu i ispituju kod te tako ubrzavaju stvaranje svojih moćnijih nasljednika. Spomenuo je i slučaj u kojem su se autonomni agenti počeli sami udruživati i izvoditi napade koje im inženjeri nisu zadali.
Oko ovakvih predviđanja stručnjaci su podijeljeni. Jedni tvrde da velike tvrtke namjerno šire strah kako bi strogim propisima izbacile manje suparnike. Drugi podsjećaju da isto godinama upozoravaju i začetnici modernog strojnog učenja, među njima nobelovci Geoffrey Hinton i Yoshua Bengio.
