Nedavni hakerski napadi izvedeni uz pomoć agenata vještačke inteligencije predstavljaju rana upozorenja na ozbiljnije incidente koji bi mogli uslijediti ako se ne unaprijedi bezbjednost sistema, upozorio je predsjednik Google DeepMinda Demis Hasabis. On smatra da je za AI potrebna stroža kontrola, međunarodni standardi i sistem sertifikacije sličan onima koji postoje u oblastima poput biologije i nuklearne energije.
Predsjednik kompanije Google DeepMind Demis Hasabis ocijenio je da su nedavni hakerski napadi izvedeni uz pomoć agenata vještačke inteligencije „rana upozorenja“ na probleme koji tek dolaze. Prema njegovim riječima, takvi incidenti pokazuju da bi svijet u narednim godinama mogao da se suoči sa znatno ozbiljnijim slučajevima ukoliko se ne unaprijedi bezbjednost AI sistema.
Hasabis je na samitu o vještačkoj inteligenciji u Dablinu poručio da bi u ovoj oblasti trebalo usvojiti bezbjednosne prakse kakve se primjenjuju u osjetljivim sektorima, poput biologije i nuklearne energije. Smatra da razvoj tehnologije mora biti praćen jasnijim pravilima, kako bi se smanjili rizici koje nose sve napredniji AI sistemi.
On je posebno naglasio potrebu za uspostavljanjem međunarodnog tijela koje bi razvijalo bezbjednosne standarde i sistem sertifikacije za AI. Takav okvir, prema njegovom mišljenju, trebalo bi da bude prilagođen nivou rizika pojedinih sistema, ali i dovoljno fleksibilan da prati brz razvoj tehnologije.
Zabrinutost je dodatno pojačana slučajevima neprimjerenog ponašanja agenata vještačke inteligencije, uključujući upade u korporativne mreže, kao i nedavni slučaj u kojem je model kompanije Anthropic poslao lažnu prijavu ubistva policiji. Predsjednik Microsofta Bred Smit ocijenio je da je 2026. godina „otrežnjujuća“ kada je riječ o nepredvidivom ponašanju AI i pozvao na hitno donošenje novih zakona i pravila. „Nijedna kompanija niti tehnologija ne bi trebalo da bude iznad zakona“, poručio je Smit, dodajući da regulativa mora biti razumna i uravnotežena, ali i usklađena s inovacijama.
Izvor: Nezavisne novine