Trump podpisal dogovor o varnosti umetne inteligence s tehnološkimi giganti

Trump je ob tem dejal, da vidi veliko pripravljenost podjetij na samoregulacijo. “Razumejo, da se morajo nadzorovati sama,” je povedal novinarjem pred zahodnim krilom Bele hiše. Podpis sporazuma naj bi bil odgovor na vse večje skrbi Američanov zaradi razvoja umetne inteligence, hkrati pa naj bi omogočil nadaljnje tehnološko inoviranje brez takojšnjih omejitev države.

Kaj prinaša prostovoljni dogovor

Dogovor, ki ga je Trump objavil na družbenem omrežju Truth Social, so podpisali Trump, izvršni direktor Anthropica Dario Amodei, izvršni direktor Googla Sundar Pichai, prvi mož Mete Mark Zuckerberg, predsednik OpenAI Greg Brockman, izvršni direktor Nvidie Jensen Huang in Elon Musk, ustanovitelj podjetja xAI, ki je zdaj del družbe SpaceX.

Podjetja naj bi uvedla robustne notranje nadzorne mehanizme, nato pa sodelovala z neodvisnim zunanjim revizorjem, ki bi preverjal, ali ti mehanizmi dejansko delujejo. Poleg tega naj bi vsako podjetje v okviru svojega upravnega odbora vzpostavilo odbor, ki bi pregledoval poročila notranjih in zunanjih revizorjev.

Dogovor hkrati dopušča možnost, da bi ti ukrepi v prihodnosti postali del zakonodaje. V njem je zapisano, da bi bilo sčasoma morda smiselno določene korake “uzakoniti oziroma vključiti v predpise”. Za zdaj pa ostajajo zaveze prostovoljne.

Trump je dejal, da bi bilo za nadzor nad celotnim področjem lahko imenovanih približno deset ljudi. Napovedal je tudi, da bo po posvetovanju s tehnološko industrijo v prihodnjih dneh imenoval osebo, ki bo skrbela za nadzor nad izvajanjem dogovora. Sporazum je označil kot moralno zavezujočega, vendar ni pojasnil, kakšne posledice bi sledile, če ga katero od podjetij ne bi upoštevalo.

Med rastjo in varnostjo

Trump je tehnološke direktorje večkrat pohvalil za razvoj tehnologije, ki naj bi prinesla “nepredstavljivo rast”. Naložbe v podatkovne centre, računalniško opremo in energetsko infrastrukturo so v ZDA pospešile gospodarsko dejavnost in vplivale tudi na rast borznih trgov. Vendar so se v pogovoru pojavili tudi previdnejši toni. Dario Amodei, ki je eden najbolj glasnih zagovornikov počasnejšega razvoja umetne inteligence, je poudaril, da ima tehnologija zelo resnična tveganja. Hkrati je dodal, da način njihovega reševanja še vedno ni dogovorjen.

Prav to je eden glavnih problemov novega sporazuma. Nekateri predlagani ukrepi so podobni praksam, ki jih podjetja že uporabljajo ali so jih že prej obljubila. Profesor elektrotehnike in računalništva Shri Narayanan meni, da dogovor poskuša uravnotežiti prostor za inovacije z večjo varnostjo. Ta prostor pa ne vključuje samo razvoja zmogljivejših modelov, temveč tudi izboljševanje njihove varnosti in zanesljivosti.

Strokovnjaki opozarjajo na omejitve samonadzora

Nekateri strokovnjaki so do ideje o samoregulaciji precej bolj zadržani. Robin Jia, profesor računalništva na Univerzi Južne Kalifornije, meni, da je nevarno polagati toliko zaupanja v samonadzor podjetij, ki hkrati tekmujejo za razvoj vedno zmogljivejših sistemov. Po njegovem mnenju je ključno zagotoviti, da so nameni vodilnih laboratorijev usklajeni s širšim javnim interesom. Opozoril je tudi na nedavno razkrita hekerska dejanja povezana z umetno inteligenco. Ko bodo modeli postajali zmogljivejši, bodo po njegovem mnenju večje tudi posledice takšnih incidentov.

Alex Pascal iz Berkman Kleinovega centra za internet in družbo je dogovor kritiziral zaradi njegovega širokega in nejasnega jezika. Po njegovem mnenju ameriških državljanov pred tveganji umetne inteligence ne more zaščititi samo prostovoljna zaveza podjetij. Potrebni naj bi bili jasna pravna odgovornost, regulacija in sprememba tekmovalne dinamike, zaradi katere razvijalci naprednih modelov sprejemajo vedno bolj tvegane odločitve.