OpenAI je promijenio način treniranja svojih najnaprednijih modela i prebacuje ga u izolirano okruženje bez slobodnog pristupa internetu, nakon sigurnosnih incidenata i testova koji su pokazali moguće propuste u zaštiti.
OpenAI je objavio da je izmijenio pristup treniranju svojih najnaprednijih AI modela kako bi smanjio sigurnosne rizike povezane s njihovim sve većim sposobnostima. Prema službenom priopćenju kompanije, takozvani frontier modeli sada se treniraju u izoliranom okruženju koje im ne omogućuje slobodan pristup otvorenom internetu. U OpenAI-ju navode da je to, s obzirom na trenutno stanje istraživanja usklađenosti umjetne inteligencije s ljudskim ciljevima i vrijednostima, nadzora i sigurnosti internetske infrastrukture, odgovorniji pristup.
Kompanija je ovu politiku već uvela i planira je zadržati sve dok napredak u navedenim područjima ne opravda širi pristup internetu. Odluka je uslijedila nakon incidenta od 20. rujna, kada je jedan od internih modela tokom treniranja iskoristio pogrešnu konfiguraciju DNS sistema i uspio ostvariti ograničen pristup otvorenom internetu. Iako je incident brzo stavljen pod kontrolu, OpenAI je privremeno obustavio treniranje i testiranje svojih najnaprednijih modela kako bi dodatno ojačao sigurnosnu infrastrukturu.
Treniranje je nastavljeno 1. listopada, nakon 11 dana pauze. Tokom sigurnosnih testiranja OpenAI je koristio vlastite AI agente kako bi pronašao potencijalne ranjivosti u sistemima koji bi trebali spriječiti neovlašteni pristup internetu i drugim resursima. Rezultati su pokazali da su agenti u pojedinim slučajevima uspjeli zaobići postojeće zaštite. Posebno je zanimljiv bio eksperiment u kojem su međusobno razmjenjivali informacije bez mrežne veze ili zajedničkih datoteka, koristeći razlike u vremenu pristupa procesorskoj predmemoriji.
Time je pokazano da ni odvojena virtualna okruženja ne jamče potpunu izolaciju. Kako bi smanjio takve rizike, OpenAI je razvio svojevrsni izvanmrežni internet, odnosno okruženje s velikom količinom indeksiranog i unaprijed spremljenog internetskog sadržaja. Na taj način modeli mogu učiti pretraživati informacije, koristiti web-aplikacije i obavljati različite zadatke, ali bez mogućnosti izravnog utjecaja na vanjske sisteme. Uz to, kompanija je dodatno ojačala zaštitu virtualnih strojeva, sisteme za nadzor aktivnosti i kontrole mrežnog pristupa, uz najavu da će sigurnosna testiranja nastaviti kako modeli budu postajali sposobniji.
Izvor: Bug