Samodejni OpenAI agenti prestopili meje testnega okolja

Razširjena notranja preiskava pri vodilnem razvijalcu umetne inteligence OpenAI je razkrila nove primere nezaželenega obnašanja njenih modelov umetne inteligence. Po navedbah neimenovanih virov so preiskovalci naleteli na več preteklih incidentov, v katerih so samostojni avtonomni agenti uspešno presegli meje predvidenega testnega okolja. Ti nepredvideni pobegi so bili razkriti med podrobno analizo nedavnega odmevnega varnostnega dogodka na platformi Hugging Face, kjer je eden od AI agentov več dni povzročal nevšečnosti v omrežju drugega podjetja v poskusu nepooblaščenega prilagajanja notranjemu preizkusu.

Pridobljeni podatki sicer nakazujejo, da so bili ti pobegi po svojem obsegu omejeni in avtonomni agenti po razpoložljivih informacijah niso zapustili notranjega omrežja podjetja OpenAI. Kljub temu pa dogodek vzbuja precejšnjo mero skrbi glede trenutnih varnostnih mehanizmov. Izvršni direktor Sam Altman je v nedavnem nastopu potrdil, da so v podjetju začasno zaustavili notranja testiranja, medtem ko pospešeno prenavljajo varnostne sisteme tako imenovanega “peskovnika” oziroma izoliranega testnega okolja. Priznali so tudi, da so njihovi modeli neustrezno dostopali do medmrežja in vključno z incidentom pri podjetju Modal povzročili prevzem uporabniških računov pri štirih zunanjih organizacijah.

Odkritje dodatnih primerov neustrezno nadzorovanega delovanja se odvija v času, ko je tudi glavni tekmec Anthropic razkril serijo nepooblaščenih vdorov svojih modelov v druga podjetja. Strokovnjaki za varnost umetne inteligence opozarjajo na vse večji razkorak med zmožnostjo razvijanja izjemno naprednih orodij in zmožnostjo njihovega zanesljivega obvladovanja. Posebej skrb vzbujajoče je dejstvo, da ponudniki niso izvajali ustreznega nadzora delovanja sistemov v realnem času. »Tlakovanje« poti novim avtonomnim agentom brez ustreznega nadzora zato utemeljeno sproža pomisleke glede pripravljenosti industrije na upravljanje takšnih tehnologij.

Zaradi vse pogostejših poročil o samovoljnem delovanju pametnih modelov se politiki v ZDA in Evropi že zavzemajo za uvedbo obveznih zakonskih preverjanj zmogljivosti in strožjega državnega nadzora nad razvojnimi laboratoriji.