Računalništvo, telefonija
11.04.2019 15:06

Deli z drugimi:

Share

Evropa pripravlja regulacijo umetne inteligence

Evropa pripravlja regulacijo umetne inteligence
Evropa pripravlja regulacijo umetne inteligence

Družbena omrežja se soočajo z največjo krizo nezaupanja uporabnikov doslej, Evropa pa se želi prepričati, da se enako ne bo zgodilo z umetno inteligenco. Evropska komisija je v ponedeljek objavila etične usmeritve, ki so namenjene pomoči in regulaciji razvoja tehnologije umetne inteligence, preden ta postane del družbe. Dotična intervencija bi lahko pomagala reguletorjem, ki so prisiljeni, da se naknadno soočajo z negativnimi posledicami tehnologije. Pomembnost regulacije umetne inteligence je dodatno potrdila poteza Velike Britanije, ki je v ponedeljek predložila nova pravila, ki internetnim podjetjem nalagajo odgovornost za neprimerno vsebino na njihovih platformah.

“To je, kot da bi pred gradnjo hiše postavil temelje … zdaj je čas za to”, pravi Liam Benham, podpredsednik regulacije za Evropo v IBM-u, ki je bil vključen v snovanje novih pravil. Evropska unija je postala vodilni akter na področju regulacije tehnologije, s tem ko je lansko leto predstavila novi zakon, ki preganja velika tehnološka podjetja, ki ne upoštevajo pravil konkurence in ne plačujejo davkov tako, kot bi morala. Umetna inteligenca, ki je hitro postala ena najbolj vročih tem na področju razvoja tehnologije, nikakor ni enostavna industrija za regulatorje.

Google (GOOGL) je le en teden po vzpostavitvi novega odbora za etično rabo umetne inteligence tega ukinili, saj so se določeni zaposleni združili, da bi odstranili predsednika konservativnega odbora podjetja. Evropska komisija je določila 7 principov za usmerjanje razvoja umetne inteligence in gradnjo zaupanja. Ne glede na to, da dotične usmeritve niso obvezujoče, bi lahko v naslednjih letih tvorile osnovo za nadaljnje poteze.


Ključna je transparentnost

Mariya Gabriel, glavna akterka evropske digitalne ekonomije pravi, da bi morala vsa podjetja, ki uporabljajo sisteme umetne inteligence, to izvajati transparentno. “Ljudje morajo vedeti, kdaj komunicirajo z algoritmom in kdaj s človeškim bitjem”, pravi Gabrielova. “Vse odločitve, ki jih sprejme algoritem, morajo skozi proces verifikacije in utemeljitve”, je še dodala.


Vzemimo za primer neko zavarovalnico, ki zavrne primer zaradi odločitve algoritma. V takšnih primerih morajo stranke ali uporabniki biti obveščeni, kako in zakaj je prišlo do določene odločitve. Človek bi v vsakem primeru moral imeti dostop do procesa, kjer bi prav tako moral imeti avtorizacije za ukrepanje in v končni fazi preusmeritev odločitve.


Evropska komisija pravi, da morajo prihodnji AI sistemi biti varni in zanesljivi skozi celoten cikel. Poleg tega pa se zavzemajo, da mora biti prioriteta zaščita osebnih podatkov, kjer imajo uporabniki nadzor nad svojimi podatki. “Če podjetje vzpostavi sistem umetne inteligence, je odgovorno za celotno delovanje sistema … to je zelo pomembno, še posebej, če pride do kakšne nesreče”, pravi Gabrielova.


Izogibanje diskriminaciji

Gabrielova še trdi, da morajo podjetja zagotoviti, da so AI sistemi pravični oz. da ni prisotne diskriminacije v nobeni obliki. Kot primer je navedla algoritem, ki je narejen za opravljanje razgovorov za službo. Če je ta algoritem izdelan v podjetju, ki v večini zaposluje moške, bo verjetno zavračal nove ženske kandidatke. “Če so vhodni podatki v sisteme pristranski, je to lahko velik problem”, pravi Gabrielova. AlgorithmWatch, neprofitna organizacija, ki se ukvarja z etično umetno inteligenco pravi, da kljub temu, da so zgoraj predstavljene smernice koristne, obstaja določena težava v pristopu Evrope.


“Smernice se osredotočajo okrog ‘zaupanja vredne umetne inteligence’ in to je problematično, saj to ni jasno definiran termin”, pravi Matthias Spielkamp, soustanovitelj organizacije. “Komu lahko zaupamo in komu bomo lahko zaupali? Sam si trenutno ne predstavljam, kako točno bo izgledal nadzor na umetno inteligenco”, je še dodal.


Thomas Metzinger, filozof in profesor na Univerzi v Mainzu, je pomagal pri sestavi smernic, vendar jih je hkrati kritiziral, saj ne vključujejo prepovedi uporabe umetne inteligence za razvoj in proizvodnjo orožja. Spet drugi strokovnjaki vidijo drug problem, in sicer se sprašujejo, kakšen bo vpliv nove regulacije na inovacije v svetu tehnologije in širše.


“Skrbi nas, da bodo zaradi togosti smernic podjetja (posebej majhna in srednja podjetja) le stežka implementirala nove inovacije, kar bi čez čas lahko pomenilo umikanje iz različnih industrij”, pravi Antony Walker, namestnik glavnega izvršnega direktorja TechUK. Glavni cilj Evropske unije je v tem trenutku pregled vseh smernic skupaj z velikimi tehnološkimi podjetji, ki bodo brez dvoma imela določene pomisleke in pritožbe.


Prijavi napako v članku