Srečno novo leto vam želi ChatGPT!

To je dogovor o prvi obsežni regulativi na svetu, ki stremi k zagotavljanju varnosti sistemov umetne inteligence in spoštovanju temeljnih pravic in vrednot sodobne človeške družbe.

S sprejemom dogovora Evropska unija, podobno kot na področju varstva osebnih podatkov in digitalnih storitev, kot »globalni regulator« določa standarde urejanja in nadzora uporabe umetne inteligence (UI).V prihodnjih tednih se bodo pogajalci posvetili izboljševanju končnega besedila, ki naj bi ga formalno potrdili spomladi. Osrednji del uredbe bo začel veljati 24 mesecev po objavi v uradnem listu EU, prepovedi po šestih mesecih, kodeksi ravnanja po devetih mesecih, modeli in sistemi splošnega namena, zmožni učenja (general-purpose AI, GPAI) pa po 12 mesecih. Za nadzor izvajanja vseh določil pri uporabi sistemov UI z visokim tveganjem je določena pristojnost evropskega nadzornika za varstvo podatkov, ki skrbi, da institucije in organi EU (institucije, telesa, pisarne in agencije) pri obdelavi osebnih podatkov spoštujejo pravico državljanov do zasebnosti.

Pomembna je stopnja tveganja

Temeljno izhodišče akta o umetni inteligenci določa, da morajo biti sistemi UI, ki se uporabljajo v EU, varni, pregledni, sledljivi, nediskriminatorni in okolju prijazni, pri ukrepih pa so se v EU odločili za pristop, ki določa obveznosti za ponudnike in uporabnike glede na stopnjo tveganja, ki ga povzroča UI. Uporaba umetne inteligence tam, kjer je tveganja ničelno ali minimalno, ne bo omjena. V primeru, da bo uporaba umetne inteligence prispevela k visokim tveganjem, pa bo strožje regulirana, v nekaterih primerih pa bo povsem prepovedana, kot je npr. uporaba umetne inteligence za socialno točkovanje ali množični nadzor (Kitajska). Prav tako ne bo dovoljena biometrična identifikacija (prepoznava obraza) v realnem času na daljavo na javno dostopnih mestih, razen izjemoma, ko gre npr. za preprečitev nevarnosti terorističnega napada. Prepovedani bodo tudi sistemi, ki bi z manipulativnimi tehnikami lahko spravili osebo pod svoj nadzor. Na področjih visokega tveganja, kot so zdravje, javna varnost, promet, okolje in temeljne svoboščine, vključno z varstvom osebnih podatkov, bo uporaba umetne inteligence strogo nadzirana. Obenem bodo prepovedane manipulativne tehnike, ki izkoriščajo ranljive skupine, kot so otroci,­ ­invalidi in socialno šibki. Sistemi UI z visokim tveganjem bodo morali biti ocenjeni, preden bodo prišli na trg in vseskozi med njihovo dostopnostjo, generativna umetna inteligenca (npr. ChatGPT) pa bo morala izpolnjevati zahteve glede preglednosti, opremljena bo morala biti z opozorilom, da je bila vsebina ustvarjena z umetno inteligenco. Model bo moral biti zasnovan tako, da bo preprečeval ustvarjanje nezakonitih vsebin, dodani bodo morali biti tudi povzetki avtorsko zaščitenih podatkov, uporabljenih za usposabljanje posamezne aplikacije.

Pomembna vprašanja se nanašajo tudi na področje avtorskih pravic. Predsedstvo Cisaca, mednarodne konfederacije društev avtorjev in skladateljev, je še pred sprejetjem okvirnega dogovora o aktu o umetni inteligenci pozvalo, da se v središče regulacije umetne inteligence postavi ustrezna načela preglednosti in pravice ustvarjalcev. Na to so opozorili »v imenu več kot pet milijonov ustvarjalcev različnih repertoarjev in iz različnih regij po vsem svetu«.

Kako kljub omejitvam ohraniti inovativnost

Ključno vprašanje ostaja: kako kljub omejitvam uporabe umetne inteligence ohraniti inovativnosti podjetij pri razvoju kot tudi pri uporabi UI? Že spomladi je skupina uglednih in vplivnih gospodarstvenikov in strokovnjakov v pismu pozvala k polletni ustavitvi raziskav in širjenja takšnih tehnologij, da bi lahko bolje preučili njihova tveganja. Poleg javnih osebnosti, kot so Steve Wozniak, Elon Muskin Yuval Noah Harari, so se pod besedilo podpisali tudi raziskovalci strojnega učenja Yoshua Bengio, Stuart Russell in Emad Mostaque. Prednosti in številne priložnosti, ki izhajajo iz njene uporabe, denimo v medicini, izobraževanju ali avtomatizaciji, so trenutno porinjene v ozadje, saj se večina naprednih držav in mednarodnih organizacij ukvarja predvsem z etičnimi vidiki uporabe umetne inteligence in številnimi tveganji, ki jih ta prinaša. Sistemi umetne inteligence brez stroge zaščite odpirajo vrata poplavi morebitnih dezinformacij in sovražnemu govoru, obenem pa tudi zlonamerni kibernetski programski opremi, biološkemu in kemičnemu terorizmu, nezadostni ukrepi kibernetske varnosti pa lahko odprejo stranska vrata do najrazličnejših aplikacij.

In kaj pravi ChatGPT?

In kaj o novi regulativi pravi »otrok« umetne inteligence, ChatGPT: »Akt o umetni inteligenci bo nedvomno omogočil boljši nadzor in oblikoval pravičnejšo in bolj odgovorno prihodnost, kjer bo UI prispevala k našemu napredku, ne da bi ogrozila našo zasebnost, varnost ali delovna mesta. S tem se odpirajo nove priložnosti za inovacije in izboljšave, ki bodo izboljšale kakovost življenja vseh nas.« Tako nam sporoča ChatGPT. Človeški avtor lahko ob tem le ponovi naslednjo misel, ki smo jo že natisnili na straneh Računalniških novic: kot že v preteklih dvejsetih letih, se tudi tokrat glavnina razvoja in tehnoloških prebojev odvija izven EU. ZDA predstavljajo 40 % svetovnih investicij v umetno inteligenco, drugih 40 % odpade na Kitajsko, EU pa na globalni ravni predstavlja le 7 % investicij v sisteme umetne inteligence. Učinkovita in verodostojna regulacija umetne inteligence bo seveda pripomogla k večjemu zaupanju v umetno inteligenco, a kompleksni zakonodajni postopki v EU vedno zaostajajo za tehnološkim razvojem in tudi v primeru akta o umetni inteligenci se zdi, da bo z dnem uveljavitve že potreben nove prevetritve. »Govori Robot!« pa bo medtem vse bolj del našega vsakdana in do konca desetletja bodo »govoreči stroji« izbrisali ali preoblikovali ogromno človeških delovnih mest. Pa srečno novo leto, človeštvo!