Agenti umetne inteligence lahko v podjetniška omrežja namestijo nepreverjeno kodo

Podjetja širom sveta se soočajo z novimi varnostnimi tveganji, ki nastajajo pri uporabi sodobnih orodij umetne inteligence. Raziskave opozarjajo, da lahko napadalci izkoristijo zastarele, nepravilne ali izmišljene dokumente na spletu ter preko AI-agentov v omrežja vnesejo nevarno kodo.

Vse več spletnih mest vsebuje datoteki »llms.txt« in »llms-full.txt«. Gre za standardizirana formata, ki AI-agentom olajšata branje in razumevanje vsebine spletišča. Ko želi agent namestiti programsko opremo ali dodati kodo v projekt, v teh dokumentih išče ustrezne napotke.

Raziskovalec Alon Hertz je analiziral 6.214 delujočih domen podjetij s seznama Fortune 500, obrambnih izvajalcev in tehnoloških gigantov. Na njih je našel 8.265 datotek ».txt«, med katerimi se jih je 120 sklicevalo na neregistrirane pakete kode ali domene. Razlogi za to so človeške napake, opuščeni paketi, napake pri kopiranju ali izmišljena dokumentacija.

Za preizkus je Hertz registriral nekaj teh prostih domen ter nanje namestil neškodljive pakete, ki so ob namestitvi poslali povratno povezavo. V manj kot eni uri se je odzval sistem enega od podjetij Fortune 500, kmalu pa še številni drugi.

To v praksi pomeni, da lahko enak napad izvedejo kriminalci. Ti lahko namreč registrirajo neprevzete programske pakete in nanje namestijo zlonamerno kodo. Če ima AI-agent dovoljenje za izvajanje ukazov v ukazni vrstici ali upravljalniku paketov, lahko ob prebrani dokumentaciji neposredno ogrozi varnost naprave ali omrežja. V eksperimentu so takšne ukaze izvedli Claude podjetja Anthropic, Codex podjetja OpenAI ter Hermes podjetja Nous Research.

Rešitev zahteva dva koraka. Podjetja morajo temeljito urediti dokumentacijo in odstraniti povezave do neobstoječih vsebin. Poleg tega morajo AI-agenti prenehati obravnavati navodila v dokumentaciji kot samodejno izvedljive ukaze.

Ker se drugi korak ne bo zgodil kmalu, ostaja urejanje dokumentacije najhitrejša zaščita. Podjetja pa bi morala natančno pretehtati tveganja, preden AI-agentom odobrijo pravice za samostojno izvajanje ukazov.