Bo umetna inteligenca kmalu sama izvajala kibernetske napade?

Novi vojaški projekt s kodnim imenom ECHOTRIBBLE, ki ga razvijajo v okviru poveljstva ARCYBER, se osredotoča predvsem na ofenzivne kibernetske operacije. Cilj programa je ustvariti modularne in avtonomne sisteme, ki delujejo podobno kot računalniški črvi. Ti agenti naj bi se neopazno prebijali skozi omrežja nasprotnikov, se premikali med različnimi napravami ter se samostojno širili prek različnih operacijskih sistemov, tako v oblačnih okoljih kot tudi v popolnoma izoliranih omrežjih.

Glavna naloga teh programov je popolna ali začasna onemogočitev oziroma odstranitev zaznanih groženj, pri čemer naj bi delovali z minimalnim obveščanjem operaterjev in se po zaključku naloge samodejno uničili, ne da bi za seboj puščali sledi. Kljub zagotovilom o vnaprej določenih varnostnih mehanizmih in nadzornih sprožilcih številni strokovnjaki za kibernetsko varnost opozarjajo na resna tveganja. Nedavni primeri uporabe umetne inteligence so namreč pokazali, da lahko sistemi v določenih okoliščinah sprejemajo nepričakovane odločitve ali presežejo predvidene okvire delovanja, kar pri vojaških orodjih vzbuja dodatne pomisleke.

Strokovnjaki opozarjajo tudi na vprašanje presoje in izbire poti do cilja. Ker program predvideva visoko stopnjo samostojnosti in delovanje z minimalnim človeškim nadzorom, nihče ne more z gotovostjo napovedati, katere elemente bo sistem obravnaval kot oviro. Obstaja namreč nevarnost, da bi avtonomni agent med prodiranjem proti cilju nehote zmotil ali poškodoval delovanje kritične civilne infrastrukture, prek katere potekajo komunikacije ali nadzorni procesi.

Projekt je trenutno v začetni fazi prototipiranja in ocenjevanja s strani industrije. Ameriška vojska je pred kratkim izvedla virtualni dogodek, na katerem je preučila predloge zasebnih ponudnikov in izbor zožila na ožji krog kandidatov. Ti bodo v naslednji fazi prejeli sredstva za razvoj in izdelavo uradnih prototipov, ki bodo pokazali, ali je koncept avtonomnih kibernetskih agentov mogoče varno prenesti tudi v prakso.