Bomo končno ločili resničnost od globokih ponaredkov?

Novo obdobje preglednosti pri uporabi umetne inteligence se začenja v sklopu 50. člena Evropskega zakona o umetni inteligenci. Ta prinaša neposredne obveznosti za ponudnike storitev in ustvarjalce vsebin. Čeprav pravila stopajo v veljavo z avgustom, so bili ključni pravni dokumenti in smernice Evropske komisije sprejeti v zadnjem možnem trenutku, kar odpira vprašanje o pripravljenosti industrije na hitre spremembe.

Zakon opredeljuje štiri temeljne zahteve za preglednost. Ponudniki morajo klepetalne robote in glasovne pomočnike zasnovati tako, da uporabnik takoj spozna, da komunicira s strojem in ne s človekom. Vse generirane digitalne vsebine, od slik in zvoka do videoposnetkov in besedil, morajo vsebovati tehnične oznake, ki so strojno berljive. Vsakdo, ki objavi globoki ponaredek (deepfake) s prikazom resničnih ljudi, mora to jasneje razkriti javnosti. Enaka preglednost velja za AI-besedila, namenjena obveščanju javnosti o pomembnih temah, razen če je vsebino pregledal človek in zanjo prevzel uredniško odgovornost.

Ob tem obstajajo tudi izjeme. Če se orodja umetne inteligence uporabljajo le kot pomoč pri standardnem urejanju besedila, kot je popravljanje slovnice ali črkovanja, označevanje ni potrebno. Prav tako so iz zahteve po označevanju izključene očitno domišljijske vsebine, kot je na primer prikaz ljudi, ki letijo po zraku.

Uporabniki na zaslonih sicer ne bodo opazili takojšnjih velikih sprememb. Strojno berljive oznake se namreč nanašajo predvsem na skrite vodne znake in metapodatke, ki so namenjeni programskim orodjem in ne očem običajnega obiskovalca. Poleg tega velja prehodno obdobje. Sistemi, ki so že na voljo na trgu, imajo za vgradnjo tehničnih oznak čas vse do letošnjega decembra, kar v praksi zajema skoraj vsa orodja, ki jih uporabljamo danes. Prostovoljna uporaba vidnih ikon za generirane vsebine sicer obstaja, vendar sama po sebi ne dokazuje verodostojnosti.

Nadzor nad spoštovanjem pravil v posameznih državah prevzemajo pristojni organi, ki vzpostavljajo prijavne točke za kršitve. Globe za nespoštovanje pravila o preglednosti so za pravne subjekte izjemno visoke in lahko dosežejo do 15 milijonov evrov ali 3 odstotke globalnega letnega prometa podjetja. Za strožje prepovedi, kot je prepoved generiranja intimnih posnetkov brez privolitve, pa so predvidene kazni celo do 35 milijonov evrov ali 7 odstotkov letnega prometa, pri čemer bodo najstrožja pravila za visoko tvegane sisteme uveljavljena nekoliko kasneje.