Amazon naj bi bil povod za blokado modelov Fable in Mythos

Ameriška odločitev, da omeji dostop do najnaprednejših modelov umetne inteligence podjetja Anthropic, dobiva vse bolj politično in varnostno razsežnost. Po poročanju ameriških medijev naj bi pomembno vlogo pri odločitvi Bele hiše odigral Amazon, eden največjih vlagateljev v Anthropic. Varnostni raziskovalci Amazona naj bi ugotovili, da je mogoče model Fable 5 z določenim zaporedjem pozivov pripraviti do tega, da razkrije informacije, uporabne pri kibernetskih napadih.

Po navedbah The Verge naj bi se Amazonov izvršni direktor Andy Jassy kmalu po teh ugotovitvah pogovarjal s predstavniki Bele hiše. Sledila je izvozna omejitev, ki je Anthropic prisilila v nenadno zaustavitev dostopa do modelov Fable 5 in Mythos 5 za vse tuje državljane. Ker bi bilo v praksi težko ločevati uporabnike po državljanstvu in lokaciji, je podjetje dostop do obeh modelov začasno onemogočilo za vse uporabnike.

Gre za enega najostrejših posegov ameriške administracije v delovanje zasebnega podjetja s področja umetne inteligence. Ukrep ni prizadel samo zunanjih uporabnikov, temveč tudi zaposlene v samem podjetju Anthropic. Ker se prepoved nanaša na tuje državljane, naj bi bili do modelov nenadoma odrezani tudi nekateri raziskovalci, ki so sodelovali pri njihovem razvoju, a nimajo ameriškega državljanstva.

Anthropic se z razlago ameriške vlade ne strinja. Podjetje trdi, da primer ne pomeni pravega »jailbreaka«, torej splošnega obhoda varnostnih mehanizmov modela. Po njihovi oceni naj bi šlo za ožjo in tehnično omejeno ranljivost, pri kateri model pomaga prepoznati določene programske pomanjkljivosti. Anthropic poudarja, da podobne zmožnosti niso edinstvene za Fable 5 ali Mythos 5, saj naj bi jih bilo mogoče doseči tudi z drugimi javno dostopnimi modeli.

Podjetje je v svoji izjavi zapisalo, da pred ukrepom ni prejelo podrobne tehnične razlage, ki bi utemeljila tako strogo odločitev. Po njihovih navedbah naj bi jim vlada posredovala predvsem ustne informacije o domnevnem varnostnem tveganju. Anthropic obenem poudarja, da je pred uvedbo modela Fable 5 izvedel obsežna testiranja, vključno z varnostnimi preverjanji v sodelovanju z ameriško in britansko vlado ter zunanjimi organizacijami.

Ozadje zgodbe je še bolj zapleteno zaradi napetih odnosov med podjetjem Anthropic in ameriško administracijo. Podjetje je v preteklosti vztrajalo pri omejitvah uporabe svojih modelov za množični nadzor in smrtonosne avtonomne orožne sisteme, kar naj bi povzročilo nesoglasja z nekaterimi deli ameriške oblasti. Zaradi tega se zdaj pojavljajo vprašanja, ali gre pri blokadi izključno za tehnično varnostno odločitev ali tudi za širši politični pritisk na podjetje.

Amazonova vloga je pri tem posebej občutljiva. Podjetje je pomemben vlagatelj v Anthropic in hkrati eden ključnih igralcev v oblačni infrastrukturi, na kateri se poganja vse več modelov umetne inteligence. Če so Amazonove varnostne ugotovitve res pomembno vplivale na odločitev Bele hiše, to kaže, da bodo tehnološki velikani v prihodnje vse bolj neposredno vključeni v oblikovanje državnih ukrepov na področju umetne inteligence.