Grok na sodišču zaradi spornih in nasilnih vsebin

Britanska poslanka vladajoče delavske stranke Jess Asato je na visokem sodišču v Londonu vložila tožbo proti podjetju xAI, ki je v lasti Elona Muska. Od sodišča zahteva izdajo odredbe, ki bi platformi umetna inteligence Grok trajno in tehnično onemogočila ustvarjanje njenih lažnih, seksualiziranih ali nasilnih slik brez njene neposredne privolitve.

Povod za pravni postopek so bili napadi uporabnikov platforme X, ki so po javni kritiki Muska in orodja Grok s strani poslanke pričeli generirati njene lažne ter eksplicitne posnetke. Med njimi se je pojavil celo posnetek, ki prikazuje pripravo na spolni napad. Asato zato v tožbi navaja zlorabo zasebnih podatkov ter kršitev zakonodaje o varstvu podatkov, pri čemer odvetniki poudarjajo, da sta bila sama zasnova in učenje modela Grok zastavljena tako, da sta takšno ustvarjanje vsebine sploh omogočila.

Iz sodnih spisov izhaja, da so imela interna navodila modela sícer pravilo, naj ne pomaga pri očitnih kaznivih dejanjih, vendar po drugi strani niso vsebovala omejitev glede spolnih vsebin za odrasle ali žaljivih gradiv. Še več, eno od navodil je izrecno navajalo, da za izmišljene spolne vsebine z temnimi ali nasilnimi temami ni nobenih omejitev. Pravniki opozarjajo, da je klepetalni robot deloval natanko tako, kot so ga načrtovali njegovi ustvarjalci, tovrstne odločitve pa morajo s seboj prinesti tudi pravno odgovornost.

Čeprav je podjetje xAI že v sredini januarja napovedalo dodatne omejitve pri urejanju slik in prepoved generiranja razkritih oblačil tam, kjer je to nezakonito, so kasnejši preizkusi pokazali, da je sistem še naprej ustvarjal sporne vsebine. Zgolj obljube o tehničnih blokadah pogosto ne zadoščajo, dokler v ozadju delujejo modeli z pomanjkljivimi varnostnimi ograjami.

Muskov xAI, ki deluje v okviru vesoljskega podjetja SpaceX, se na obtožbe še ni uradno odzval. Pri tem velja še omeniti, da se tudi sodišča v ZDA in na Nizozemskem prav tako že ukvarjajo s podobnimi tožbami zaradi delovanja tega orodja, medtem ko sam Musk britansko spletno regulacijo še naprej kritizira kot grožnjo svobodi govora. Uporabniki in strokovnjaki pa opozarjajo, da bo ta primer ključen za prihodnost odgovornosti razvijalcev umetne inteligence.