Obveščevalne službe opozarjajo, da bi UI lahko že v nekaj mesecih prebila današnjo kibernetsko obrambo

Najtesneje povezana obveščevalna zavezništva na svetu – ZDA, Združeno kraljestvo, Kanada, Avstralija in Nova Zelandija – opozarjajo, da bi lahko bili najnaprednejši modeli umetne inteligence že kmalu sposobni izvajati kibernetske napade, ki bodo presegli zmogljivosti današnjih obrambnih sistemov.

V skupni izjavi je zavezništvo Five Eyes vlade in podjetja pozvalo, naj z ukrepi ne odlašajo. Po njihovem mnenju ne gre več za vprašanje prihodnosti, temveč za neposredno varnostno tveganje.

Najostrejši del opozorila predstavlja ocena časovnice. Po navedbah obveščevalnih služb razvoj naprednih UI modelov poteka hitreje, kot je pričakovala industrija. Modeli naj bi kmalu bistveno spremenili tako napadalne kot obrambne zmogljivosti na področju kibernetske varnosti.

Umetna inteligenca ni več zgolj tehnološka inovacija, temveč vprašanje nacionalne varnosti. To je prvič, da tako jasno opozorilo prihaja iz najvišjih varnostnih institucij.

Povod so Anthropic in napredni UI modeli

Opozorilo je sledilo kmalu po odločitvi ameriške administracije, da omeji uporabo najzmogljivejših modelov podjetja Anthropic za tuje državljane. Razlog je bil model Mythos 5, ki je pokazal izjemne sposobnosti pri odkrivanju varnostnih ranljivosti.

Pri Anthropicu so kasneje pojasnili, da so ameriške oblasti odkrile način, kako bi bilo mogoče obiti zaščitne mehanizme javnega modela Fable 5. Zaradi tega podjetje in ameriška vlada že več tednov sodelujeta pri iskanju ustreznih rešitev.

Posledica vsega tega je, da se največje UI laboratorije vse pogosteje obravnava podobno kot podjetja, ki razvijajo kritično infrastrukturo.

Najbolj ranljiva so manjša podjetja

Po mnenju strokovnjakov največje nevarnosti ne grozijo največjim korporacijam. Velika podjetja praviloma že vlagajo v napredne sisteme kibernetske zaščite in imajo specializirane varnostne ekipe. Veliko bolj izpostavljena so mala in srednje velika podjetja, ki pogosto nimajo zadostnih sredstev za sodobno zaščito. Strokovnjaki opozarjajo, da bi prav ta podjetja lahko postala prve žrtve prihodnje generacije UI napadov.

UI je hkrati problem in rešitev

Obveščevalne službe pa poudarjajo tudi zanimiv paradoks. Ista tehnologija, ki omogoča napadalcem hitrejše iskanje ranljivosti, lahko pomaga tudi obrambnim ekipam.

Umetna inteligenca že danes omogoča hitrejše odkrivanje varnostnih lukenj, analizo nenavadnega vedenja v omrežjih, avtomatsko preverjanje programske kode in hitrejše odzivanje na incidente. Vprašanje zato ni, ali moramo UI uporabljati v kibernetski varnosti, ampak kdo jo bo znal uporabljati čim bolj učinkovito.

Hiter razvoj seveda odpira tudi politična vprašanja. V ZDA še vedno ne obstaja enoten sistem za ocenjevanje tveganj najzmogljivejših UI modelov. Del strokovnjakov poziva k strožji regulaciji, drugi pa opozarjajo, da bi lahko prevelike omejitve upočasnile inovacije.

Zato vse več raziskovalcev predlaga bolj odprt in transparenten sistem preverjanja varnosti modelov, kjer bi sodelovali tako razvijalci kot neodvisni varnostni strokovnjaki.

Opozorilo zavezništva Five Eyes kaže, da se razprava o umetni inteligenci iz tehnoloških konferenc vse bolj seli v varnostne institucije.

Če so bile doslej glavne teme produktivnost, avtomatizacija in delovna mesta, se zdaj v ospredje postavlja vprašanje, kako zaščititi države, podjetja in kritično infrastrukturo pred sistemi, ki bodo morda že kmalu sposobni izvajati zelo napredne kibernetske napade.