'KUM UMJETNE INTELIGENCIJE' Hinton dao otkaz u Googleu i upozorava na zastrašujuće opasnosti

Geoffrey Hinton, koji je stvorio temeljnu tehnologiju za sustave umjetne inteligencije, rekao je za The New York Times da napredak postignut na tom polju znači 'duboke rizike za društvo i čovječanstvo'. 'Pogledajte kako je bilo prije pet godina, a kako je sada', citiran je u članku koji je objavljen u ponedjeljak. 'Pogledajte koliki je to iskorak, a dalje ga širite. To je zastrašujuće', istaknuo je.

Hinton je rekao da natjecanje između tehnoloških divova tjera tvrtke da proizvode nove AI tehnologije opasnim brzinama, ugrožavajući radna mjesta i šireći dezinformacije. 'Teško je vidjeti kako možete spriječiti loše aktere da to iskoriste za loše stvari', rekao je za Times.

Godine 2022. Google i OpenAI – startup koji stoji iza popularnog AI chatbota ChatGPT – počeli su graditi sustave koristeći puno veće količine podataka nego prije. Hinton je za Times rekao kako vjeruje da ti sustavi na neki način zasjenjuju ljudsku inteligenciju zbog količine podataka koje analiziraju. 'Možda je ono što se događa u tim sustavima zapravo puno bolje od onoga što se događa u mozgu', rekao je novinama.

Iako se umjetna inteligencija koristi za podršku ljudskim radnicima, brzo širenje chatbota poput ChatGPT-a moglo bi ugroziti radna mjesta. AI 'oduzima težak posao', ali 'može oduzeti više od toga', rekao je za Times.

Znanstvenik je također upozorio na potencijalno širenje dezinformacija koje stvara AI, rekavši za Times da prosječna osoba 'više neće moći znati što je istina'. Hinton je obavijestio Google o svojoj ostavci prošli mjesec, izvijestio je Times.

Jeff Dean, vodeći znanstvenik za Google AI, zahvalio je Hintonu u izjavi američkim medijima. 'Kao jedna od prvih tvrtki koja je objavila načela umjetne inteligencije, ostajemo predani odgovornom pristupu umjetnoj inteligenciji', dodaje se u izjavi. 'Neprekidno učimo suočavati se s novim rizicima, dok istodobno hrabro unapređujemo', istaknuo je.

U ožujku su tehnološki milijarder Elon Musk i niz stručnjaka pozvali na stanku u razvoju AI sustava kako bi se omogućilo vrijeme u kojemu bi se provjerilo i uvjerilo jesu li sigurni. Otvoreno pismo, koje je potpisalo više od 1000 ljudi, uključujući Muska i suosnivača Applea Stevea Wozniaka, potaknulo je izdavanje GPT-4, puno moćnije verzije tehnologije koju koristi ChatGPT.

Hinton u to vrijeme nije potpisao to pismo, ali je za The New York Times rekao da znanstvenici ne bi trebali 'povećati ovo dok ne shvate mogu li to kontrolirati'.