Geoffrey Hinton, zajedno s još dvojicom tzv. „kumova umjetne inteligencije” (Yoshua Bengio i Yann LeCun) osvojio je Turingovu nagradu 2018. godine za svoj rad na neuronskim mrežama koje su postale intelektualni temelj za napredne AI sustave koje koriste najveće tehnološke tvrtke, no sada kaže da dio njega žali zbog svog životnog djela.

Dr. Hinton je nedavno dao otkaz u Googleu nakon više od desetljeća kako bi progovorio o rizicima umjetne inteligencije, prema intervjuu sa 75-godišnjakom u The New York Timesu.

Tješim se uobičajenim izgovorom: da nisam ja to učinio, netko drugi bi. Teško je uvidjeti kako možete spriječiti negativce da to iskoriste za loše stvari.

Hinton je već prije mjesec dana obavijestio Google o svojoj ostavci, a u prošlog tjedna je telefonski razgovarao s izvršnim direktorom Sundarom Pichaijem, navodi NYT. Međutim, odbio je javno govoriti o detaljima tog razgovora.

Ovaj cjeloživotni akademik pridružio se Googleu nakon što je kupio tvrtku koju su pokrenuli Hinton i dva njegova učenika, od kojih je jedan postao glavni znanstvenik u OpenAI-ju. Hinton i njegovi studenti razvili su neuronsku mrežu koja je sama sebe naučila identificirati uobičajene objekte poput pasa, mačaka i cvijeća nakon analize tisuća fotografija. Upravo je taj rad u konačnici doveo do stvaranja ChatGPT-a i Google Barda.

U razgovoru za The New York Times, Hinton kaže da je bio zadovoljan Googleovim upravljanjem tehnologijom sve dok Microsoft nije pokrenuo novi Bing s OpenAI-jem, izazovući Googleovu osnovnu djelatnost i izazvavši „šifru crveno” unutar pretraživačkog diva. Takvu žestoku konkurenciju možda je nemoguće zaustaviti, kaže Hinton, što rezultira svijetom s toliko lažnih slika, videa i tekstova da nitko „više neće moći znati što je istina”.

Googleov glavni znanstvenik, Jeff Dean, pokušao je ublažiti udarac sljedećom izjavom: „Ostajemo predani odgovornom pristupu umjetnoj inteligenciji. Kontinuirano učimo razumjeti nove rizike, a istovremeno hrabro inoviramo.”

Hinton se također oglasio na Twitteru kako bi pojasnio svoj stav o upravljanju Googleom:

Cade Metz iz NYT-a implicira da sam napustio Google kako bih mogao kritizirati Google. Zapravo, otišao sam kako bih mogao govoriti o opasnostima umjetne inteligencije bez razmatranja kako to utječe na Google. Google se ponio vrlo odgovorno.

Čini se da je širenje dezinformacija samo Hintonov neposredni prioritet. Na duge staze, zabrinut je da će umjetna inteligencija eliminirati rutinske zadatke, a možda i samo čovječanstvo kako AI počinje pisati i pokretati vlastiti kod.

„Ideja da bi ove stvari zapravo mogle postati pametnije od ljudi – nekoliko je ljudi vjerovalo u to”, rekao je Hinton za NYT. „No većina ljudi mislila je da je to daleko. A i ja sam mislio da je daleko. Mislio sam da je to stvar za 30 do 50 godina ili čak i duže. Očigledno, više ne mislim tako.”

Mnogi drugi stručnjaci, uključujući njegove studente i kolege, kažu da je ova prijetnja hipotetska. No dr. Hinton vjeruje da će utrka između Googlea i Microsofta i ostalih eskalirati u globalni okršaj koji neće prestati bez neke vrste globalne regulacije.

Ali to je možda nemoguće. Za razliku od nuklearnog oružja, rekao je, ne postoji način da se sazna rade li tvrtke ili zemlje na tehnologiji u tajnosti.

Najbolja nada je da vodeći svjetski znanstvenici surađuju na načinima kontrole tehnologije. “Mislim da ne bi trebali ovo povećavati sve dok ne shvate mogu li to kontrolirati”, komentira dr. Hinton.