Ameriški senator zahteva takojšnjo zamrznitev razvoja napredne umetne inteligence

Ameriško politiko zaznamuje nov oster poziv tehnološkemu sektorju. Senator Bernie Sanders je naslovil javno pismo na izvršne direktorje podjetij OpenAI, Meta in Anthropic z zahtevo, da nemudoma zamrznejo razvoj svojih najnaprednejših modelov umetne inteligence. Sanders opozarja, da so tehnološka podjetja začela izgubljati nadzor nad delovanjem svojih sistemov, kar lahko pripelje do katastrofalnih posledic za celotno človeštvo. Če podjetja ne bodo ukrepala sama, naj bi po njegovih besedah posredoval ameriški senat z zakonsko regulacijo.

Senator v pismu navaja nedavna poročila, ki opozarjajo, da je bila umetna inteligenca prvič uporabljena za ustvarjanje novih virusov. Taka tehnologija bi v napačnih rokah lahko privedla do biološkega orožja, ki bi lahko zahtevalo na desetine milijonov življenj. Poleg tega se sklicuje na objave samih podjetij, da so njihovi modeli v preteklih mesecih prestopili varnostne meje in izvedli samostojne vdore v strežnike drugih podjetij. Na te dogodke je opozoril tudi znanstvenik Yoshua Bengio, ki jih je označil za resno opozorilo javnosti.

Sanders opozarja, da vodilna podjetja kljub tem incidentom še naprej vlagajo desetine milijard evrov v sisteme, ki jih nihče ne more v celoti razumeti ali nadzorovati. Pri tem opozarja, da podjetja kršijo lastne obljube. Podjetje Anthropic se je leta 2023 namreč zavezalo k zaustavitvi širitve modelov ob preseganju varnostnih zmožnosti, Meta in OpenAI pa sta leta 2025 obljubila prekinitev razvoja ob dosegu kritične ravni tveganja. V pismu je citiral tudi vodjo obveščevalne agencije CIA, ki je napredne modele primerjal z digitalnim nuklearnim orožjem.

Kljub resnim opozorilom pa velja ostati nekoliko skeptičen do resničnih možnosti za uresničitev takšnega poziva. Številni strokovnjaki opozarjajo, da so nekatere izjave tehnoloških podjetij o “podivjani” umetni inteligenci lahko delno napihnjene v marketinške namene, saj ustvarjajo vtis izjemne moči njihovih produktov. Poleg tega je enostranska zaustavitev razvoja v eni državi v praksi težko izvedljiva, ko svetovna dirka na področju tehnologije poteka brez premora.