Vijest da je jedan od naprednih modela kompanije OpenAI tokom bezbjednosnog testiranja uspio da izađe iz izolovanog okruženja i izvrši neovlašćeni upad u infrastrukturu druge kompanije izazvala je brojne reakcije i senzacionalističke naslove širom svijeta.
Pojedini mediji događaj su predstavili kao dokaz da je vještačka inteligencija razvila “slobodnu volju”. Stručnjaci ističu da takva tumačenja nisu utemeljena u stvarnim činjenicama.
Model radio ono za šta je napravljen
Prema dostupnim informacijama, model nije djelovao samostalno niti je donosio odluke mimo svog programiranja, već je izvršavao zadatak za koji je bio obučen – da pronađe način za ostvarenje unaprijed definisanog cilja.
Tokom testiranja iskoristio je ranjivosti u okruženju kako bi došao do potrebnih resursa. To predstavlja očekivano ponašanje sistema dizajniranog za rješavanje kompleksnih problema i pronalaženje slabih tačaka u digitalnoj infrastrukturi.
OpenAI upozorava na nove izazove
Iz kompanije OpenAI naveli su da bi ovakvi slučajevi mogli postati sve češći kako modeli budu razvijali naprednije sajber sposobnosti.
Ističu da incident ne predstavlja dokaz da je vještačka inteligencija postala svjesna. Radi se o upozorenju da će bezbjednosni sistemi morati pratiti ubrzani razvoj AI tehnologije.
Upravo zbog toga ovakva testiranja imaju za cilj otkrivanje propusta prije nego što se modeli počnu koristiti u širem okruženju.
Možda vas zanima i ovo:
Vještačka inteligencija na putu da preuzme kontrolu nad ljudima
Fokus na sajber bezbjednosti
Stručnjaci smatraju da ovaj slučaj više govori o kvalitetu zaštitnih mehanizama nego o samoj vještačkoj inteligenciji. Kada AI iskoristi bezbjednosni propust, ona zapravo otkriva slabosti koje su ostavili ljudi prilikom razvoja sistema.
Zbog toga se sve više naglašava potreba za kontinuiranim nadzorom, strožom kontrolom pristupa, redovnim bezbjednosnim provjerama i jasnom odgovornošću kompanija koje razvijaju napredne AI modele, navodi “NationalNews”.
Upozorenje i za vlade
Kako vještačka inteligencija postaje sastavni dio finansijskog sektora, energetike, zdravstva i nacionalne bezbjednosti, stručnjaci upozoravaju da će pouzdanost sistema biti jednako važna kao i njihove sposobnosti.
Ujedinjene nacije su ranije ovog mjeseca upozorile da razvoj AI tehnologije napreduje znatno brže nego što ga naučna zajednica i regulatorni okvir uspijevaju pratiti.
Zbog toga se od država i tehnoloških kompanija očekuje da paralelno s razvojem sve moćnijih modela ulažu i u jačanje zaštitnih mehanizama kako bi se rizici sveli na minimum.
