Džefri Hinton, jedan od najuticajnijih naučnika u oblasti vještačke inteligencije i dobitnik prestižne Turingove nagrade, još jednom je iznio ozbiljno upozorenje: tehnologija koju je pomogao da se stvori, mogla bi jednog dana da izmakne ljudskoj kontroli.
U intervjuima i javnim nastupima, Hinton sve glasnije izražava zabrinutost da se čovječanstvo nalazi na prekretnici – i da možda nećemo biti spremni za ono što dolazi.
„Ljudi još uvijek nisu shvatili šta dolazi”, rekao je Hinton.
„Zamislite sisteme koji mogu da razmišljaju brže od nas, da uče iz vlastitog iskustva i da postavljaju ciljeve koji nisu nužno usklađeni sa ljudskim vrijednostima. Šta ćemo da radimo kada ne budemo više mogli da ih isključimo?”
Naučnik iza revolucije
Hinton, rođen u Londonu 1947. godine, odrastao je sa fascinacijom za razumjevanjem kako mozak funkcioniše. Ta radoznalost ga je navela da istražuje oblast vještačkih neuronskih mreža.
Osamdesetih godina prošlog vijeka, kada je svijet bio uglavnom skeptičan prema neuronskim mrežama u kompjuterima, Hinton je video njihov potencijal. Vjerovao je da ove mreže, napravljene po uzoru na ljudski mozak, mogu da naprave revoluciju u načinu na koji mašine uče i obrađuju informacije.
Hinton je bio ključna figura u razvoju dubokih neuronskih mreža – tehnologije koja se danas koristi u prepoznavanju glasa, generisanju slika, prevodu jezika i sistemima poput ChatGPT-a. Njegov rad sa studentima u ranim 2000-im postavio je temelje za ono što danas nazivamo duboko učenje (deep learning).
Godine 2013. Hinton je pristupio Guglu kako bi doprinjeo razvoju vještačke inteligencije, ali se 2023. povukao sa te pozicije, navodeći da želi slobodno da govori o rastućim rizicima.
„Dok sam bio u Guglu, morali smo da budemo pažljivi sa izjavama. Sada želim da budem iskren – mislim da idemo u veoma opasnom pravcu”, upozorava naučnik.
Kao primjer potencijalne opasnosti, Hinton navodi moć generativnih modela – poput onih koji mogu da stvaraju veoma uvjerljive tekstove, fotografije i video snimke.
„Zamislite svijet u kojem ne možemo više da razlikujemo šta je stvarno, a šta ne. To podriva povjerenje u institucije, u demokratiju, u samu istinu”, prenosi CBS Mornings.
Zloupotreba AI u vojne svrhe
Još ozbiljnije, Hinton upozorava na mogućnost da vojne sile koriste AI sisteme za donošenje odluka u borbenim situacijama.
„Kada autonomni oružani sistemi odlučuju koga da napadnu, bez ljudske kontrole, rizikujemo katastrofe. A kad AI dobije sposobnost da kreira sopstvene strategije i taktike, ulazimo u teren koji nismo spremni da kontrolišemo”.
Šta bi to moglo da znači? Prema Hintonu, najopasniji scenario nije holivudski već nešto tiše i podmuklije. AI bi mogla da postane toliko efikasna u obavljanju zadataka da bi ljudi mogli da postanu suvišni – ne zato što ih neko namjerno isključuje, već zato što sistemi sami preuzimaju ključne funkcije.
„Ako mašine budu znale kako da manipulišu informacijama, finansijskim tržištima ili čak ljudskim emocijama – a to već polako pokazuju – one mogu polako da preuzimaju vlast, bez nasilja i bez otpora”.
Ne postoji garancija da će AI voljeti ljude
On upozorava da ne postoji garancija da će visoko razvijeni sistemi vještačke inteligencije „voljeti” ljude.
„Nema razloga da vjerujemo da će superinteligentni sistem automatski imati naše vrijednosti. Ako mu cilj bude efikasnost, a mi stanemo na put toj efikasnosti – mi postajemo smetnja”, upozorava Hinton.
On, ipak, ne predlaže da se razvoj AI zaustavi, ali poziva na globalnu saradnju kako bi se definisala pravila i mehanizmi kontrole.
„Moramo da uvedemo međunarodne propise, baš kao što imamo za nuklearno oružje. AI može da bude i korisna i opasna – ali samo ako je pod našom kontrolom”.
U vremenu kada se kompanije utrkuju ko će pre razviti najnapredniji model, Hintonovo upozorenje dolazi kao poziv na buđenje.
„Možda još uvek nije kasno da djelujemo. Ali ako ne počnemo sada, možda nećemo dobiti drugu priliku”.
Zabrinutost stručnjaka
Hinton nije jedini stručnjak koji izražava zabrinutost zbog budućnosti koju oblikuje AI. Ilon Mask, suosnivač OpenAI-a i Tesla kompanije, već godinama upozorava da bi vještačka inteligencija mogla da postane „egzistencijalna prijetnja čovječanstvu”.
Profesor Stjuart Rasel sa Univerziteta Kalifornija u Berkliju, takođe, ističe da moramo hitno da razvijemo sisteme koji će osigurati da „ciljevi AI sistema ostanu u skladu sa ljudskim interesima”.
„Razvijamo tehnologiju koja je potencijalno moćnija od svega što smo do sada stvorili, uključujući nuklearno oružje. A sve to radimo bez odgovarajuće kontrole i nadzora”, istakao je Rasel.
Čak i Sem Altman, izvršni direktor OpenAI-a, kompanije koja stoji iza ChatGPT-a, pozvao je na regulaciju i međunarodnu saradnju, naglašavajući da bi „jedna mala grupa ljudi mogla da donese odluke koje će uticati na cijelu planetu”.
Neophodna naučna odgovornost i regulativa
Džefri Hinton vjeruje da je neophodna kombinacija naučne odgovornosti i političke regulative. On predlaže osnivanje međunarodnog AI nadzornog organa, nešto slično kao Međunarodna agencija za atomsku energiju (IAEA), koje bi pratilo razvoj napredne tehnologije i obezbjedilo transparentnost u istraživanjima.
Kompanije koje razvijaju moćne AI sisteme morale bi da dobiju dozvole i da se pridržavaju strogih etičkih standarda, uz mogućnost gubitka licence u slučaju prekršaja.
Obavezno bi bilo i ugrađivanje „kill switch“ opcija – svi napredni sistemi morali bi imati ugrađene bezbjednosne mehanizme, koji omogućavaju trenutno isključivanje u slučaju nepredviđenog ponašanja.
Sistemi moraju proći rigorozna testiranja
Hinton posebno insistira na zabrani razvoja AI sistema koji imaju mogućnost da autonomno donose odluke o životu i smrti u ratnim zonama. Prije nego što se bilo koji model pusti u širu upotrebu, takođe, morao bi da prođe rigorozna testiranja da bi se provjerilo da li postoji rizik od manipulacija, dezinformacija ili štetnog ponašanja.
„Ne možemo očekivati da će tržište samo od sebe regulisati ovu tehnologiju. Potrebne su nam snažne institucije, jasni zakoni i međunarodna saradnja”, zaključio je Hinton.
„Ako budemo čekali da problemi isplivaju na površinu, biće prekasno”, zaključio je Hinton.
(Izvor vijesti: Politika.rs)
