Od danes v EU veljajo strožje zahteve glede preglednosti umetne inteligence

Hiter napredek tehnologij umetne inteligence prinaša številne prednosti, hkrati pa močno otežuje ločevanje med pristnimi človeškimi deli in vsebino, ki jo ustvarjajo ali spreminjajo algoritmi. To posledično odpira vrata tveganjem za obsežne manipulacije, prevare, lažno predstavljanje ter celo zavajanje potrošnikov. Da bi zaščitila javnost, Evropska komisija v okviru svojega celovitega »paketa«, poimenovanega Zakon o umetni inteligenci (AI Act), z dnem 2. avgusta 2026 uveljavlja ključne določbe o preglednosti.

Nove obveznosti so namenjene ponudnikom in uporabnikom določenih sistemov umetne inteligence, da bi ljudje takoj prepoznali, kdaj komunicirajo z računalnikom ali opazujejo »sintetične« vsebine. To omogoča sprejemanje premišljenih odločitev in boljšo obrambo pred zavajanjem. Označevanje in prepoznavanje se nanašata predvsem na slike, zvok in videoposnetke, ki posnemajo resnične osebe, kraje ali dogodke, torej t. i. globoke ponaredke oziroma deepfake vsebine. Prav tako pravila zajemajo orodja za prepoznavanje čustev in biometrično kategorizacijo ter besedila o javnih zadevah, objavljena brez človeškega uredniškega nadzora.

Uporabniki morajo biti jasno in pravočasno seznanjeni tudi takrat, ko ne komunicirajo s pravo osebo, temveč s klepetalnim botom, naprednim agentom ali navideznim avatarjem. Da bi olajšala izpolnjevanje teh nalog, je Evropska komisija pripravila posebne smernice, ki podjetjem pojasnjujejo načine dokazovanja skladnosti, vključno z uporabo prostovoljnega kodeksa ravnanja. Hkrati je EU pripravila nabor vizualnih ikon, ki jih lahko ponudniki in izvajalci uporabijo za označevanje.

Nadzor nad izvajanjem in kaznovanje kršitev sta porazdeljena med nacionalne organe za tržni nadzor, Evropski urad za umetno inteligenco za sisteme pod njegovim nadzorom ter Evropskega nadzornika za varstvo podatkov za institucije EU. V primeru kršitev lahko pristojni organi izrečejo globe v višini do 15 milijonov evrov oziroma do 3 odstotke letnega globalnega prometa podjetja. Za evropske institucije in agencije so globe določene do 750 tisoč evrov, pri čemer se dosledno upošteva načelo sorazmernosti za mala in srednje velika podjetja.

Sam Zakon o umetni inteligenci je sicer stopil v veljavo že 1. avgusta 2024, njegove določbe pa se uveljavljajo postopoma. Glavni cilj zakonodaje ostaja vzpostavitev enotnega trga za zaupanja vredno umetno inteligenco v Evropski uniji, spodbujanje inovacij ter hkratna zaščita zdravja, varnosti, temeljnih pravic in vladavine prava.