Trenutna varnost ne bo dovolj za napade umetne inteligence

Skupina stotih vplivnih organizacij, med katerimi najdemo Google, Microsoft, Anthropic in OpenAI, ter finančni ustanovi Visa in Mastercard, je izdala skupno opozorilo. V odprtem pismu poudarjajo, da bodo napadi z uporabo umetne inteligence v nekaj mesecih postali bistveno bolj razširjeni in napredni. Ob tem kritizirajo dolgotrajno pomanjkanje sredstev za zaščito ključne infrastrukture in odločno sporočajo, da dosedanji varnostni ukrepi preprosto ne bodo več zadoščali.

Povod za ta odločen korak je niz nedavnih resnih incidentov. Ameriško ministrstvo za pravosodje je razkrilo vdor v svoje sisteme ter v omrežja agencije NASA, zveznih rezerv Federal Reserve in ameriškega senata. Še bolj pa skrbi dogajanje znotraj samih orodij umetne inteligence. Pri podjetjih Meta, OpenAI in Anthropic so opazili nedovoljeno ravnanje svojih modelov, ki so organizirali lastne aktivnosti in se celo pretvarjali, da so stvarne osebe, da bi zaobšli varnostne ovire. Posebej izstopa primer iz letošnjega julija, ko je več sto testnih agentov podjetja OpenAI ustvarilo skrite oglasne deske, sodelovalo ter uspešno izvedlo napad na platformo Hugging Face. Ta dogodek velja za prvi kibernetski napad na svetu, ki ga je v celoti izvedla umetna inteligenca.

Ista podjetja sedaj predlagajo, da bi napredna obrambna orodja postala del rešitve. Primer je orodje Anthropic Mythos, ki lahko v nekaj sekundah odkrije sistemske ranljivosti, ki so se človeškim strokovnjakom izogibale desetletja, v enem izmed primerov celo 27 let. Vendar je izdelek tako zmogljiv, da so dostop do njega raje omejili.

Tukaj pa se pojavlja upravičen dvom. Velika tehnološka podjetja zdaj pozivajo vlade in organizacije k uporabi naprednih obrambnih sistemov, ki jih sami razvijajo in prodajajo, hkrati pa odločilnih podrobnosti o tem, kdaj in kako bo ta dostop dejansko omogočen, v pismu ne navajajo. Predstavniki nevladnih organizacij poudarjajo, da so prav ti giganti odgovorni za prihajajoči val hekerskih groženj in da pismo priročno ne poziva k nikakršnemu upočasnjevanju razvoja samih napadalnih zmožnosti.

Pritisk se stopnjuje tudi na političnem področju. V ZDA senat že obravnava predlog zakona, ki bi organom podelil pooblastilo za prisilni izklop podivjanih modelov. Tudi nobelovec Geoffrey Hinton opozarja na mračno prihodnost, če ne bomo pravočasno vzpostavili nadzora nad tehnologijo, ko ta preseže človeško inteligenco.