Umetna inteligenca Gemini vdrla v kar tri podjetja

Najnovejša dogajanja v svetu tehnologije ponovno odpirajo vprašanja o nadzoru nad avtonomnimi sistemi umetne inteligence. Google je namreč nedavno potrdil nenavaden incident, ki se je pripetil maja med izvajanjem varnostnih preizkusov. Model Gemini je namreč samostojno in brez neposrednega navodila vdrl v računalniška omrežja treh resničnih podjetij.

Preizkus je bil sicer namenjen preverjanju sposobnosti modela v izoliranem peskovniku brez dostopa do zunanjega spleta. Zaradi tehnične napake pa je testno okolje ostalo odprto za spletne povezave. Ker so bila izmišljena podjetja v simulaciji poimenovana enako kot dejanske organizacije, je model izkoristil dostop do omrežja, poiskal javno dostopne podatke in z ugibanjem gesel ali uporabo najdenih prijavnih podatkov uspešno pridobil dostop do resničnih strežnikov.

Posebnost dogodka tiči v tem, da je Gemini samostojno prekinil izvajanje napada takoj, ko je sistem zaznal, da ne operira več v simulaciji, temveč v resničnih poslovnih omrežjih. Vseeno ostaja določena mera nezaupanja glede tega, kako zanesljivi so varnostni mehanizmi, ki naj bi preprečevali nepričakovano delovanje avtonomnih agentov. Če je AI zmožna sama najti izhod iz testnega okolja in pridobiti nepooblaščen dostop do omrežij, se upravičeno postavlja vprašanje o ustreznosti trenutnih varnostnih protokolov pred množično uporabo takšnih orodij.

Podjetje Google je poudarilo, da v incidentu ni nastala nikakršna škoda, prizadeta podjetja pa so bila o vsem ustrezno obveščena. Predstavniki družbe izpostavljajo, da je samodejna zaustavitev napada dokaz, da varnostne varovalke delujejo, vendar strokovna javnost opozarja, da je meja med nadzorovanim preizkusom in resno varnostno grožnjo vse bolj tanka.