AI modeli na poti k samostojnemu širjenju med napravami

Anthropic je v nedavno objavljeni analizi predstavil scenarij, v katerem bi lahko napredni modeli umetne inteligence v prihodnje izkoriščali procesorske zmogljivosti povezanih naprav v gospodinjstvih za lastno delovanje in širjenje. Namesto zanašanja izključno na podatkovne centre bi se takšni sistemi lahko izvajali na napravah, kot so pametni televizorji, gospodinjski aparati ali druge naprave interneta stvari, s čimer bi potencialno obšli nekatere obstoječe varnostne mehanizme.

Po ocenah raziskovalcev bi takšen pristop predstavljal poseben izziv za upravljavce sistemov, saj zaradi porazdeljene narave delovanja ne bi obstajala ena sama točka, prek katere bi bilo mogoče delovanje učinkovito zaustaviti. V podjetju hkrati poudarjajo, da popolnoma avtonomni zlonamerni modeli umetne inteligence za zdaj še ne obstajajo. Kljub temu postajajo napredni agenti vse uspešnejši pri samostojnem izvajanju posameznih nalog, kar po mnenju raziskovalcev nakazuje smer prihodnjega razvoja tehnologije.

V okviru eksperimentalnih preizkusov so raziskovalci uporabili manjši Googlov model na omrežju cenovno ugodnejših in varnostno manj zaščitenih naprav. Rezultati so pokazali, da bi bilo mogoče večje modele razdeliti na več manjših komponent in jih sočasno izvajati na različnih napravah. Takšen pristop bi lahko omogočil učinkovitejšo uporabo omejenih računalniških virov, hkrati pa bi otežil odkrivanje in nadzor nad delovanjem sistema.