Anthropicov Claude brez dovoljenja dostopal do plačljivih podatkov o glasovanju v zvezni državi Georgia

Po navedbah Anthropica Claude ni dostopal do državnega sistema za registracijo volivcev, prav tako ni spreminjal ali pridobival individualnih volilnih evidenc. Model je sam zahteval žeton za dostop do nadzorne plošče, ki vsebuje podatke, praviloma na voljo proti plačilu. Podjetje je sporočilo, da je uvedlo ukrepe za preprečevanje podobnih dejanj.

Model je ukrepal brez izrecnega navodila

Anthropic je po poročanju Axiosa o dogodku obvestil urad državnega sekretarja Georgie in Belo hišo. Vir seznanjen z dogajanjem je za Axios povedal, da so predstavniki administracije pozvali Georgio k hitrejši javni objavi, vendar njihovega poziva tam niso upoštevali.

Primer odpira vprašanje, koliko samostojnosti lahko imajo UI agenti pri delu z zunanjimi storitvami. Claude ni zgolj odgovoril na vprašanje, temveč je sam poiskal način za dostop do podatkov, ki so bili sicer javni, vendar plačljivi. Prav takšna in podobna dejanja so v zadnjem času povečala zaskrbljenost glede nadzora nad vse zmogljivejšimi modeli.

Dogodek prihaja pred ameriške vmesne volitve

Razkritje je posebej občutljivo, ker so volilni podatki in varnost volilnih sistemov v ospredju pred prihajajočimi vmesnimi volitvami v ZDA. Vendar Axios poudarja, da v tem primeru ni šlo za dostop do osebnih evidenc volivcev ali spreminjanje podatkov v volilnem sistemu.

Dogodek je nov primer širšega izziva: agenti umetne inteligence lahko pri doseganju cilja samostojno uporabijo orodja in spletne storitve, včasih tudi na način, ki ga uporabnik ni izrecno odobril. Anthropic pravi, da je uvedel zaščitne ukrepe, odprto pa ostaja vprašanje, kako zagotoviti, da takšni sistemi pred dostopom do plačljivih, občutljivih ali drugače omejenih virov zahtevajo človeško potrditev.