Obveščevalne službe opozarjajo, da bi UI lahko že v nekaj mesecih prebila današnjo kibernetsko obrambo

V skupni izjavi je zavezništvo Five Eyes vlade in podjetja pozvalo naj z ukrepi ne odlašajo. Po njihovem mnenju ne gre več za vprašanje prihodnosti, temveč za neposredno varnostno tveganje.

Najostrejši del opozorila je ocena časovnice. Po navedbah obveščevalnih služb razvoj naprednih UI modelov poteka hitreje, kot je pričakovala industrija. Modeli naj bi kmalu bistveno spremenili tako napadalne kot obrambne zmogljivosti na področju kibernetske varnosti.

S tem prvič prihaja tako jasno opozorilo najvišjih varnostnih institucij, da umetna inteligenca ni več le tehnološka inovacija, temveč vprašanje nacionalne varnosti.

Povod so Anthropic in napredni UI modeli

Opozorilo prihaja kmalu po odločitvi ameriške administracije, da omeji uporabo najzmogljivejših modelov podjetja Anthropic za tuje državljane. Razlog je bil model Mythos 5, ki je pokazal izjemne sposobnosti pri odkrivanju varnostnih ranljivosti.

Anthropic je kasneje pojasnil, da so ameriške oblasti odkrile način, kako bi bilo mogoče obiti zaščitne mehanizme javnega modela Fable 5. Zaradi tega podjetje in ameriška vlada že več tednov sodelujeta pri iskanju ustreznih rešitev.

Dogajanje kaže, da se največje UI laboratorije vse pogosteje obravnava podobno kot podjetja, ki razvijajo kritično infrastrukturo.

Najbolj ranljiva so manjša podjetja

Po mnenju strokovnjakov največje nevarnosti ne grozijo največjim korporacijam. Velika podjetja praviloma že vlagajo v napredne sisteme kibernetske zaščite in imajo specializirane varnostne ekipe. Veliko bolj izpostavljena so mala in srednje velika podjetja, ki pogosto nimajo zadostnih sredstev za sodobno zaščito. Strokovnjaki opozarjajo, da bi prav ta podjetja lahko postala prve žrtve prihodnje generacije UI napadov.

UI je hkrati problem in rešitev

Obveščevalne službe poudarjajo zanimiv paradoks. Ista tehnologija, ki omogoča napadalcem hitrejše iskanje ranljivosti, lahko pomaga tudi obrambnim ekipam.

Umetna inteligenca že danes omogoča hitrejše odkrivanje varnostnih lukenj, analizo nenavadnega vedenja v omrežjih, avtomatsko preverjanje programske kode in hitrejše odzivanje na incidente.

Vprašanje zato ni, ali uporabljati UI v kibernetski varnosti, ampak kdo jo bo znal uporabljati učinkoviteje.

Hiter razvoj pa odpira tudi politična vprašanja. V ZDA še vedno ne obstaja enoten sistem za ocenjevanje tveganj najzmogljivejših UI modelov. Del strokovnjakov poziva k strožji regulaciji, drugi pa opozarjajo, da bi lahko prevelike omejitve upočasnile inovacije.

Zato vse več raziskovalcev predlaga bolj odprt in transparenten sistem preverjanja varnosti modelov, kjer bi sodelovali tako razvijalci kot neodvisni varnostni strokovnjaki.

Opozorilo zavezništva Five Eyes kaže, da se razprava o umetni inteligenci vse bolj seli iz tehnoloških konferenc v varnostne institucije.

Če so bile doslej glavne teme produktivnost, avtomatizacija in nova delovna mesta, se zdaj v ospredje postavlja vprašanje, kako zaščititi države, podjetja in kritično infrastrukturo pred sistemi, ki bodo morda že kmalu sposobni izvajati zelo napredne kibernetske napade.