Uporaba UI v praksi: pravni in tehnični poudarki po AIA

Evropski akt o umetni inteligenci (AIA)[1] je prvi celovit zakonodajni okvir, ki ureja razvoj, uvajanje in uporabo UI na podlagi ocene tveganj.

Njegov namen je hkrati spodbujati inovacije ter varovati temeljne pravice posameznikov. Akt je bil objavljen 12.7.2024 in je začel veljati 1.8.2024. AIA želi zagotoviti pregledne in zanesljive UI-rešitve, okrepiti varnost ter ustvariti stabilno regulativno okolje, ki bo omogočalo odgovorno rast evropskega trga UI. Ključno vodilo akta je načelo zaupanja: le s predvidljivimi pravili lahko UI postane široko sprejeta in varno uporabljena tehnologija.

Ključni datumi in postopno uvajanje zahtev

Obveznosti se uvajajo postopno. Že 2.2.2025 so začele veljati prepovedi nesprejemljivih praks, kot so socialno točkovanje in biometrično profiliranje z manipulativnim učinkom. Istega dne je začela veljati tudi obveznost osnovne pismenosti o UI za vse ponudnike in uvajalce. Od 2.5.2025 veljajo obveznosti za modele splošnega namena (zahteve glede dokumentacije, preglednosti in avtorskih pravic). Večina ostalih določb se začne uporabljati 2.8.2026, zato se morajo organizacije pravočasno pripraviti.

Uporaba umetne inteligence z visokim tveganjem

Sistemi UI, ki neposredno posegajo v temeljne pravice (biometrija, zaposlovanje, izobraževanje, zdravstvo, finančne storitve, kazenske preiskave…), spadajo med visoko tvegane. Za te primere AIA določa obsežen sklop zahtev: upravljanje tveganj, ustrezno kakovost podatkov, natančno dokumentacijo, revizijsko sled, človeški nadzor, sprotno spremljanje delovanja, informiranje posameznikov, poročanje o incidentih … Obveznosti se razlikujejo glede na to, ali gre za ponudnike ali uvajalce UI sistemov.

Pomen pismenosti o umetni inteligenci

AIA poudarja, da tehnološke zahteve niso dovolj, če uporabniki ne razumejo delovanja sistemov. Zato je obvezna ustrezna stopnja UI-pismenosti za vse, ki razvijajo, nadzirajo ali uporabljajo UI. To vključuje razumevanje tveganj, tehničnih omejitev, zakonodaje in etičnih dilem. Organizacije morajo zagotavljati notranja usposabljanja, pripraviti načrte rednega izobraževanja ter zaposlene seznaniti s posledicami napačne uporabe sistemov. Ta obveznost velja že od februarja 2025, kar pomeni, da izobraževanja ne smejo čakati.

Kazni in nadzor

AIA predvideva visoke kazni. Za prepovedane prakse do 35 mio € ali do 7% svetovnega prometa podjetja, za druge kršitve do 15 mio € oziroma 3 % prometa. Nadzor izvajajo nacionalni organi, na ravni EU pa Evropski urad za UI. V Sloveniji nadzor in izvajanje AIA ureja ZIUDHPUI[2], ki velja od 21.11.2025. Informacijski pooblaščenec nadzoruje prepovedane prakse ter skladnost sistemov visokega tveganja.

Tehnična skladnost in praktični izzivi

Ponudniki in uvajalci morajo zagotoviti robustne, varne in sledljive UI-sisteme. Ključne so: tehnična dokumentacija, testiranje natančnosti, preprečevanje zlorab, hranjenje dnevnikov delovanja, postopki za incidentno poročanje, spremljanje sprememb modelov in urejeno upravljanje dobavne verige podatkov. Skladnost ni enkraten dogodek, temveč stalno spremljanje celotnega životnega cikla UI.

Kako se učinkovito pripraviti

Prvi korak je popis vseh UI-rešitev in njihova razvrstitev po tveganju. Če sistem predstavlja nesprejemljivo tveganje, ga je treba prenehati uporabljati ali prilagoditi. Za visoko tvegane sisteme je potrebno sprejeti številne ukrepe: zagotoviti kakovost vhodnih podatkov, določiti odgovorne osebe, informirati zaposlene, spremljati delovanje sistema ter voditi dnevnike. Večina sistemov v organizacijah bo sicer nizko ali omejeno tvegana (npr. chatbot), pri katerih so ključni obveščanje posameznikov, skrb za podatke in redna interna izobraževanja. Priporočljivo je tudi sprejetje Pravilnika o uporabi UI, ki določa postopke, odgovornosti in nadzor.

Podpora pri vzpostavitvi skladnosti

Ker AIA združuje pravne in tehnične zahteve, se organizacije pogosto odločajo za strokovno podporo. DATAINFO.SI, d.o.o., nudi pomoč pri pripravi notranjih pravil, informacij za posameznike in izobraževanj. S tem organizacije zagotovijo skladnost, znižajo tveganja ter povečajo zaupanje uporabnikov. Kontakt: 02 620 43 00 ali info@datainfo.si. (P.R.)

[1] UREDBA (EU) 2024/1689 EVROPSKEGA PARLAMENTA IN SVETA z dne 13. junija 2024 o določitvi harmoniziranih pravil o umetni inteligenci in spremembi uredb (ES) št. 300/2008, (EU) št. 167/2013, (EU) št. 168/2013, (EU) 2018/858, (EU) 2018/1139 in (EU) 2019/2144 ter direktiv 2014/90/EU, (EU) 2016/797 in (EU) 2020/1828 (Akt o umetni inteligenci).

[2] Zakon o izvajanju uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci (ZIUDHPUI) – Uradni list RS, št. 85/25