KUM VJEŠTAČKE INTELIGENCIJE: Opasnosti AI-a su zastrašujuće

Čovjek kojeg mnogi nazivaju kumom vještačke inteligencije dao je otkaz i upozorio “na sve veće opasnosti od razvoja na polju AI-a”. Geoffrey Hinton (75) najavio je ostavku u Googleu u intervjuu za New York Times, rekavši da sada žali zbog svog rada.

Za BBC je rekao da su neke od opasnosti AI chatbota “prilično zastrašujuće”.

“Trenutno nisu inteligentniji od nas, koliko ja vidim. Ali mislim da bi uskoro mogli biti”, rekao je.

Pionirsko istraživanje dr. Hintona o dubokom učenju i neuronskim mrežama otvorilo je put za sadašnje AI sisteme poput ChatGPT-a.

No, britansko-kanadski psiholog i informatičar rekao je za BBC da bi chatbot uskoro mogao prestići nivo informacija koju čuva ljudski mozak.

“Upravo sada vidimo da stvari poput GPT-4 zasjenjuju osobu u količini opšteg znanja koje ima. U smislu rezonovanja, nije tako dobro, ali već jeste u smislu jednostavnih obrazloženja. S obzirom na brzinu napretka, očekujemo da će prilično brzo postati sve bolji. Stoga moramo biti zabrinuti”, rekao je za BBC.

“Pogledajte kako je bilo prije pet godina, a kako je sada. Pogledajte koliki je to iskorak, a dalje ga širite. To je zastrašujuće”, istakao je.

Hinton je rekao da takmičenje između tehnoloških divova tjera kompanije da proizvode nove AI tehnologije opasnim brzinama, ugrožavajući radna mjesta i šireći dezinformacije.

“Teško je vidjeti kako možete spriječiti loše aktere da to iskoriste za loše stvari”, rekao je za Times.

“Scenarij iz noćne more”

U članku u New York Timesu Hinton je spominjao “loše ljude” koji bi pokušali koristiti AI za “loše stvari”. Kada ga je BBC upitao da to pojasni, odgovorio je: “Ovo je samo vrsta najgoreg mogućeg scenarija, vrsta scenarija iz noćne more. Možete zamisliti, na primjer, nekog poput ruskog predsjednika Vladimira Putina koji je odlučio dati robotima mogućnost stvaranja vlastitih pod-ciljeva.”

Naučnik je upozorio da bi to na kraju moglo “stvoriti podciljeve poput ‘Moram dobiti više snage'”. “Došao sam do zaključka da se vrsta inteligencije koju razvijamo jako razlikuje od inteligencije koju imamo. Mi smo biološki sistemi, a ovo su digitalni sistemi. A velika je razlika u tome što s digitalnim sistemima imate mnogo kopija istog modela svijeta”, rekao je.

“I sve te kopije mogu učiti zasebno, ali odmah dijele svoje znanje. Dakle, to je kao da imate 10.000 ljudi i kad god jedna osoba nešto nauči, svi to automatski znaju. I tako ti chatbotovi mogu znati mnogo više od bilo koje osobe”, zaključuje.

Radna mjesta i širenje dezinformacija

Iako se vještačka inteligencija koristi za podršku ljudskim radnicima, brzo širenje chatbota poput ChatGPT-a moglo bi ugroziti radna mjesta. AI “oduzima težak posao”, ali “može oduzeti više od toga”, rekao je za Times. Naučnik je upozorio na potencijalno širenje dezinformacija koje stvara AI, rekavši za Times da prosječna osoba “više neće moći znati što je istina”.

Hinton je takođe rekao da postoji nekoliko drugih razloga zbog kojih je dao otkaz. “Jedan je taj dan imam 75 godina. Dakle, vrijeme je za penziju. Drugi je – zapravo želim reći neke dobre stvari o Googleu. A one su vjerodostojnije ako ne radim za Google”, kaže.

Naglasio je da ne želi kritikovati Google te da je tehnološki div bio “vrlo odgovoran”.

Jeff Dean, vodeći naučnik za Google AI, zahvalio je Hintonu u izjavi američkim medijima. “Kao jedna od prvih kompanija koja je objavila načela vještačke inteligencije, ostajemo predani odgovornom pristupu vještačkoj inteligenciji”, dodaje se u izjavi.

“Neprekidno se učimo suočavati s novim rizicima, dok istovremeno hrabro unapređujemo”, istaknuo je.

Poziv na pauzu u razvoju AI-a

U martu su tehnološki milijarder Elon Musk i niz stručnjaka pozvali na pauzu u razvoju AI sistema kako bi se omogućilo vrijeme u kojemu bi se provjerilo i uvjerilo jesu li sigurni.

Otvoreno pismo, koje je potpisalo više od 1000 ljudi, uključujući Muska i suosnivača Applea Stevea Wozniaka, podstaklo je izdavanje GPT-4, puno moćnije verzije tehnologije koju koristi ChatGPT. Hinton u to vrijeme nije potpisao to pismo, ali je za The New York Times rekao da naučnicu ne bi trebali “povećati ovo dok ne shvate mogu li to kontrolisati”.