Evropska unija pripravlja strožje omejitve in ukrepe za uporabo umetne inteligence

Evropska unija je predstavila nova pravila in striktne omejitve pri rabi tehnologije prepoznavanja obraza in ostalih oblik umetne inteligence, ki spadajo med t. i. visoko tvegane. Vsem podjetjem, ki ne bodo upoštevali novih pravil, grozijo visoke kazni.

Evropska komisija, izvršilni organ EU, je v sredo, 21. aprila, predlagala omejitve določenih AI aplikacij znotraj EU, med drugim bi ta omejitev veljala za tehnologijo, ki obravnava ranljive skupine ljudi, ali spremlja človeško vedenje.

Po novih pravilih bi bila uporaba tehnologije prepoznavanja obraza in ostalih “real-time” daljinskih biometričnih sistemov identifikacije prepovedana, razen, če gre za tehnologijo, ki preprečuje teroristične napade, iskanje pogrešanih otrok, ali tehnologijo, ki na tak ali drugačen način povečuje javno varnost.

Evropa, pripravljena na digitalno dobo

Cilj novih pravil in ukrepov je, da bi Evropa postala svetovno vozlišče za zaupanja vredno umetno inteligenco. Prvi pravni okvir za umetno inteligenco doslej in nov usklajeni načrt skupaj z državami članicami, bosta skupaj zagotavljala varnost in temeljne pravice ljudi in podjetij, hkrati pa pospeševala uvajanje umetne inteligence, naložbe vanjo in inovacije povsod po EU. Ta pristop bodo dopolnila nova pravila o strojih s prilagoditvijo varnostnih pravil. Z njimi bo naraslo zaupanje uporabnikov v novo, prilagodljivo generacijo proizvodov.

Margrethe Vestager, izvršna podpredsednica za Evropo, pripravljeno na digitalno dobo, je povedala: “Pri umetni inteligenci ne gre brez zaupanja. S temi prelomnimi pravili je EU na čelu razvoja novih svetovnih norm, ki bodo zagotovile, da bo umetni inteligenci mogoče zaupati. S postavljanjem standardov lahko utremo pot etični tehnologiji povsod po svetu in obenem zagotovimo, da bo EU še naprej konkurenčna. Naša pravila so primerna za prihodnost in prijazna inovacijam ter se bodo uporabila takrat, ko bo res nujno potrebno: ko bo šlo za varnost in temeljne pravice državljanov EU.“

Evropski komisar za notranji trg Thierry Breton je dejal: “Umetna inteligenca je sredstvo, ne cilj. Uporablja se že desetletja, zdaj pa je dobila nove zmogljivosti, ki jih omogočajo zmogljivi računalniki. To nam odpira ogromno možnosti na najrazličnejših področjih, kot so zdravje, promet, energetika, kmetijstvo, turizem ali kibernetska varnost. Prinaša pa tudi številna tveganja. Namen današnjega predloga je okrepiti položaj Evrope kot svetovnega vozlišča odličnosti na področju umetne inteligence od laboratorija do trga, zagotoviti, da bo umetna inteligenca spoštovala naše vrednote in pravila, ter izkoristiti potencial umetne inteligence za uporabo v industriji.” 

Nova uredba o umetni inteligenci bo zagotovila, da bodo Evropejci lahko zaupali tistemu, kar nudi umetna inteligenca. Sorazmerna in prožna pravila bodo odpravljala posebna tveganja v sistemih umetne inteligence in postavila najvišje standarde na svetu. V usklajenem načrtu so prikazane potrebne spremembe politik in naložb na ravni držav članic, s katerimi bomo utrdili vodilni položaj Evrope pri razvoju umetne inteligence, ki bo humanocentrična, trajnostna, varna, vključujoča in vredna zaupanja.

Evropski pristop k zaupanja vredni umetni inteligenci

Nova pravila se bodo uporabljala neposredno in enako v vseh državah članicah na podlagi opredelitve umetne inteligence, ki bo kos prihodnosti. Izhajajo iz pristopa na podlagi tveganja.

Nesprejemljivo tveganje: sistemi umetne inteligence, za katere se šteje, da nedvoumno ogrožajo varnost, možnosti preživljanja in pravice ljudi, bodo prepovedani. Sem spadajo sistemi ali vrste uporabe umetne inteligence, ki manipulirajo vedenje ljudi, da bi obšli svobodno voljo uporabnikov (npr. igrače z glasovnim upravljanjem, ki mladoletnike spodbuja k nevarnemu ravnanju), in sistemi, ki vladam omogočajo „družbeno točkovanje“.

Veliko tveganje: med sisteme umetne inteligence, ki veljajo za sisteme z velikim tveganjem, spada tehnologija umetne inteligence, ki se uporablja:

• v kritični infrastrukturi (npr. v prometu) in bi lahko ogrozila življenje in zdravje državljanov;
• v izobraževanju ali poklicnem usposabljanju, kjer bi lahko odločala o dostopu do posameznikovega izobraževanja ali življenjske poklicne poti (npr. ocenjevanje izpitov);
• v varnostnih komponentah proizvodov (npr. aplikacije umetne inteligence v robotsko podprti kirurgiji);
• v zaposlovanju, upravljanju delavcev in pri dostopanju do samozaposlitve (npr. programska oprema za razvrščanje življenjepisov v postopkih zaposlovanja);
• v bistvenih zasebnih in javnih storitvah (npr. kreditno točkovanje, ki državljanom onemogoča, da bi najeli posojilo);
• pri preprečevanju, odkrivanju in preiskovanju kaznivih dejanj, kjer bi lahko posegala v temeljne človekove pravice (npr. ocenjevanje zanesljivosti dokazov);
• pri upravljanju migracij, azila in nadzora meje (npr. preverjanje pristnosti potnih listin);
• v pravosodju in demokratičnih procesih (npr. uporaba zakona za konkretno dejansko stanje).

Sistemi umetne inteligence z velikim tveganjem bodo morali izpolniti stroge obveznosti, preden bodo lahko dani na trg:

• ustrezni sistemi za ocenjevanje in ublažitev tveganja;
• visoka kakovost naborov podatkov, ki se dovajajo v sistem, ki bodo karseda zmanjšali tveganje in možnost diskriminatornih rezultatov;
• vodenje dnevnikov o dejavnosti, ki bodo zagotovili sledljivost rezultatov;
• podrobna dokumentacija z vsemi potrebnimi informacijami o sistemu in njegovem namenu, da bodo uradni organi lahko ocenili njegovo skladnost;
• jasne in ustrezne informacije za uporabnika;
• ustrezni ukrepi človeškega nadzora za zmanjšanje tveganja;
• visoka stopnja robustnosti, varnosti in točnosti.

Evropski pristop k odličnosti na področju umetne inteligence

Usklajevanje bo utrdilo vodilni položaj Evrope na področju umetne inteligence, ki bo humanocentrična, trajnostna, varna, vključujoča in vredna zaupanja. Da bili še naprej konkurenčni v svetovnem merilu, je Komisija trdno odločena, da bo spodbujala inovacije v razvoju tehnologije umetne inteligence in njeno uporabo v vseh panogah in v vseh državah članicah.

Usklajeni načrt za umetno inteligenco je bil prvič objavljen leta 2018 za opredelitev ukrepov in instrumentov za financiranje razvoja in uvajanja umetne inteligence. Omogočil je nastanek živahnega okolja nacionalnih strategij in financiranja EU za javno-zasebna partnerstva ter raziskovalno-inovacijske mreže. V celoviti posodobitvi usklajenega načrta so predlagani konkretni skupni ukrepi za sodelovanje, ki bodo zagotovili, da bodo vse dejavnosti skladne z evropsko strategijo za umetno inteligenco in evropskim zelenim dogovorom, hkrati pa bodo upoštevale nove izzive, ki jih prinaša koronavirusna pandemija. V njem je predstavljena vizija pospešitve naložb v umetno inteligenco, ki lahko pripomore k okrevanju. Njegov cilj je tudi spodbuditi izvajanje nacionalnih strategij za umetno inteligenco, odpraviti razdrobljenost in poiskati rešitve za svetovne izzive.

Posodobljeni usklajeni načrt se bo financiral s sredstvi, dodeljenimi v okviru programov Digitalna Evropa in Obzorje Evropa, mehanizma za okrevanje in odpornost, v katerem je predviden cilj glede odhodkov v višini 20 %, ter programov kohezijske politike, njegov namen pa je:

• ustvariti ugodne pogoje za razvoj umetne inteligence in njeno uvajanje preko izmenjave vpogledov v politiko, izmenjave podatkov in naložb v kritične računalniške zmogljivosti;
• spodbujati odličnost na področju umetne inteligence „od laboratorija do trga“ z vzpostavitvijo javno-zasebnega partnerstva, krepitvijo in pritegnitvijo zmogljivosti za raziskave, razvoj in inovacije ter dajanjem na razpolago prostorov za preizkušanje in poskuse ter vozlišč za digitalne inovacije MSP in javnim upravam;
• zagotoviti, da bo umetna inteligenca delovala za ljudi in koristila družbi tako, da bo usklajeni načrt na čelu razvoja in uvajanja zaupanja vredne umetne inteligence, da bo spodbujal nadarjenost, znanja in spretnosti s podpiranjem pripravništev, doktorskih omrežij in podoktorskih štipendij na digitalnih področjih, vključeval zaupanje v politike umetne inteligence ter spodbujal evropsko vizijo trajnostne in zaupanja vredne umetne inteligence v svetovnem merilu;
• doseči strateško vodstvo v sektorjih in tehnologijah z velikim učinkom, vključno z okoljem, s poudarkom na prispevku umetne inteligence k trajnostni proizvodnji in zdravju z razširitvijo čezmejne izmenjave informacij, pa tudi k javnemu sektorju, mobilnosti, notranjim zadevam, kmetijstvu in robotiki.

Evropski pristop k novim strojem

Stroji predstavljajo velik del potrošniških proizvodov in proizvodov za poklicno uporabo: od robotov do kosilnic, 3D-tiskalnikov in gradbenih strojev do industrijskih proizvodnih linij. V direktivi o strojih, ki jo nadomešča nova uredba o strojih, so opredeljene zdravstvene in varnostne zahteve za stroje. Ta nova uredba o strojih bo zagotovila, da bo nova generacija strojev zagotavljala varnost uporabnikov in potrošnikov, ter spodbujala inovacije. V novi uredbi o umetni inteligenci bodo obravnavana varnostna tveganja sistemov umetne inteligence, nova uredba o strojih pa bo zagotavljala varno vključevanje sistema umetne inteligence v stroje na splošno. Podjetja bodo morala opraviti samo en postopek ugotavljanja skladnosti. 

Poleg tega bodo v novi uredbi o strojih upoštevane potrebe trga: prinesla bo več pravne varnosti za sedanje določbe, poenostavila upravno breme in stroške za podjetja, saj bo omogočila digitalne formate za dokumentacijo in prilagodila pristojbine za ugotavljanje skladnosti za MSP, hkrati pa zagotovila usklajenost z zakonodajnim okvirom EU za proizvode.

Naslednji koraki

Evropski parlament in države članice bodo morali predloga Komisije o evropskem pristopu za umetno inteligenco in o strojih sprejeti po rednem zakonodajnem postopku. Ko bosta uredbi sprejeti, se bosta neposredno uporabljali v vsej EU. Hkrati bo Komisija še naprej sodelovala z državami članicami pri izvajanju ukrepov iz usklajenega načrta.

Ozadje

Komisija že več let omogoča in krepi sodelovanje na področju umetne inteligence po vsej EU, da bi povečala konkurenčnost EU in zagotovila zaupanje na temelju vrednot EU. 

Po objavi evropske strategije za umetno inteligenco leta 2018 in obsežnih posvetovanjih z deležniki je strokovna skupina na visoki ravni za umetno inteligenco leta 2019 pripravila smernice za zaupanja vredno umetno inteligenco, leta 2020 pa ocenjevalni seznam za zaupanja vredno umetno inteligenco. Hkrati je bil decembra 2018 objavljen prvi usklajeni načrt za umetno inteligenco kot skupna zaveza z državami članicami.

V Komisijini beli knjigi o umetni inteligenci, objavljeni leta 2020, je predstavljena jasna vizija za umetno inteligenco v Evropi kot ekosistema odličnosti in zaupanja, iz nje pa izhaja današnji predlog. V javnem posvetovanju o beli knjigi o umetni inteligenci je sodelovalo veliko udeležencev od vsepovsod po svetu. Beli knjigi je bilo priloženo poročilo o vprašanjih varnosti in odgovornosti, ki jih sprožajo umetna inteligenca, internet stvari in robotika. V njem je bilo ugotovljeno, da je v sedanji zakonodaji o varnosti proizvodov, zlasti v direktivi o strojih, veliko vrzeli, ki jih je treba odpraviti.

Več informacij

Nova pravila za umetno inteligenco – vprašanja in odgovori

Nova pravila za umetno inteligenco – informativna stran

Sporočilo o spodbujanju evropskega pristopa k umetni inteligenci

Uredba o evropskem pristopu k umetni inteligenci

Nov usklajeni načrt za umetno inteligenco

Uredba o strojih

Projekti na področju umetne inteligence, ki jih financira EU