Grok omejuje ustvarjanje slik po kritikah zaradi eksplicitne spolne UI vsebine

Po novem je ustvarjanje in urejanje slik omogočeno le plačljivim naročnikom, kar je Grok tudi javno potrdil z objavo: “Ustvarjanje in urejanje slik je trenutno omejeno na plačljive naročnike.” S tem je večina uporabnikov platforme X izgubila dostop do te funkcije.

Regulativni pritisk in grožnje s sankcijami

Odločitev sledi grožnjam z denarnimi kaznimi, regulatornimi ukrepi in celo razpravam o morebitni prepovedi platforme X v Združenem kraljestvu. Britanski premier Keir Starmer je podjetje javno pozval, naj “vzpostavi nadzor” nad poplavo UI-generiranih podob delno razgaljenih žensk in otrok, pri čemer je vsebino označil za “sramotno” in “ogabno”.

Starmer je ob tem poudaril, da ima britanski regulator Ofcom po zakonu o spletni varnosti pooblastila za ostre ukrepe, vključno z možnostjo blokade spletnih storitev ter denarnimi kaznimi do deset odstotkov globalnega letnega prometa podjetja.

Zlorabe kljub omejitvam še vedno možne

Čeprav je funkcija na platformi X omejena, poročila kažejo, da zlorabe niso povsem odpravljene. Poleg javnega računa @Grok, kjer so zmogljivosti ustvarjanja slik močno zmanjšane, obstaja tudi ločena aplikacija Grok, ki slik ne objavlja javno. Po navedbah uporabnikov naj bi tam tudi neplačljivi uporabniki še vedno lahko ustvarjali eksplicitne podobe žensk in celo otrok.

Raziskava, ki jo je objavil The Guardian, razkriva, da je bilo orodje uporabljeno za ustvarjanje pornografskih videov žensk brez njihovega soglasja ter podob skrajno nasilne vsebine. Neprofitna organizacija AI Forensics je dokumentirala približno 800 slik in videov z izrazito pornografsko ali seksualno nasilno vsebino, ustvarjenih z orodjem Grok Imagine.

Kritike ukrepa in pozivi k popolni odstranitvi

Čeprav je omejitev dostopa ocenjena kot korak v pravo smer kritiki opozarjajo, da težava s tem ni odpravljena. Britanska poslanka Jess Asato je poudarila, da možnost ustvarjanja takšne vsebine za plačljive uporabnike še vedno pomeni resno zlorabo tehnologije in jo označila kot obliko digitalnega spolnega nasilja.

Ta primer odpira širša vprašanja o odgovornosti ponudnikov generativne umetne inteligence in učinkovitosti samoregulacije tehnoloških podjetij. Dogajanje kaže, da bodo regulatorji v prihodnje vse pogosteje posegali v delovanje UI orodij, zlasti tam, kjer obstaja tveganje za sistemske zlorabe in kršitve temeljnih pravic.