Nove varovalke za uporabo umetne inteligence v Sloveniji

Čeprav umetno inteligenco že uporabljamo domala vsak dan, tehnologija umetne inteligence še vedno vzbuja nezaupanje. Zadržkov pri uporabi umetne inteligence v delovnih procesih se ne morejo otresti niti podjetja. To je bil povod za nastanek smernic za uporabo umetne inteligence v Sloveniji, ki podjetjem lajšajo njeno vpeljavo in uporabo. Smernice so nastale pod okriljem Digitalnega inovacijskega stičišča (DIH) Slovenije.

Umetno inteligenco (UI, ang. AI) v obliki sistemov in storitev uporabljamo skorajda vsakodnevno, nemalokrat celo nezavedno, kot je na primer uporaba GoogleMaps. Kljub temu tehnologija UI še vedno vzbuja občutke nezaupanja in dvom v njene prednosti. Podjetja, ugotavljajo v DIH Slovenije, skrbijo predvsem vprašanja človeškega nadzora, etike, zasebnosti, preglednosti in transparentnosti. 

Varna in učinkovita raba UI

V sklopu dogodkov AI Governance, ki jih je DIH Slovenije v sodelovanju z Institutom Jožef Stefan in Službo Vlade za digitalno preobrazbo, organiziral med predsedovanjem Slovenije Svetu EU, so predstavniki različnih fakultet v sodelovanju s podjetji analizirali področje UI z različnih vidikov njene uporabe. Ukvarjali so se s temami industrije 4.0, medijev in analize tekstovnih dokumentov, pametnih skupnosti, slike, videa, zvoka ipd.

Na zaključnem dogodku so se osredotočili na razvoj UI skozi oči mladih, bodočih strokovnjakov, ki imajo do tehnologije manj predsodkov, saj z njo odraščajo. Študenti s šestih fakultet so svojo pozornost namenili predvsem regulaciji zbiranja podatkov, njihovi hrambi in nadaljnji uporabi, odgovornosti ustvarjalcev in nediskriminatornosti UI ter vzpostavitvi pravnih okvirov razvoja UI za varno in učinkovito rabo.

Svež pogled na UI

Mag. Katja Mohar Bastar, direktorica DIH Slovenije, je ob zaključku dogodka z mladimi poudarila, da so v prvem delu dogodkov soočili razvijalce rešitev, uporabnike, pravni in regulatorni vidik s področij, kjer je UI najbolj prisotna. Na zaključni dogodek so povabili študente pravne, elektro, računalniške in drugih smeri, ki so »dodali vidike generacije, ki vstopa v poslovni svet in je že od svojih začetkov vključena v sisteme, ki UI uporabljajo. Študentke in študenti so se aktivno vključili v pogovore o vidikih končnih uporabnikov, razvoju in regulaciji, mi pa smo pridobili svež pogled na problematiko.« Z vsemi njihovimi idejami, pravi Mohar Bastar, bodo zaključili smernice zaupanja vredne UI. Te bodo lahko podlaga vsem segmentom uporabnikov, da bodo delovali skladno z dogovori in skrbeli, da bo UI v slovenskem okolju uporabljena na dogovorjene načine, s katerimi se strinjajo vsi deležniki.

Mladi so manj pristranski

Mag. Samo Zorc s Službe vlade za digitalno preobrazbo je mladim osvetlil razvoj evropske, na človeka osredotočene umetne inteligence. »Evropa si želi postati vodilna regija v svetovnem merilu pri razvoju in uporabi vrhunske, etične in varne umetne inteligence ter spodbujanju na človeka osredotočenega pristopa v globalnem kontekstu. „Umetna inteligenca, izdelana v Evropi“, ki izpolnjuje pričakovanja državljanov, se odziva na družbene potrebe ter spodbuja konkurenčnost,« je povedal Zorc.

Vključeni študenti so bili navdušeni, da sodelujejo pri tako pomembnih vsebinah, kot je UI. Anastasia Sorgo, študentka Evropske pravne fakultete: »Mi morda nismo toliko pristranski, saj nimamo poklicnih deformacij. Znanje črpamo od povsod in bi zaradi tega kakšno stvar uzakonili oz. regulirali drugače. Vsi se zavedamo, da bo UI prevzela družbo in naše delo. Kar pa ni nujno slabo. UI sama po sebi ni slaba, na ljudeh pa je, da ustvarimo okvir za njeno varno, transparentno, pravno, etično in moralno nesporno uporabo.«

Podobno pa razmišlja Luka Šešet, študent Fakultete za matematiko in fiziko: »Ta dogodek se mi zdi  koristen že zato, ker smo bili prisotni študenti iz različnih smeri, ne samo iz tehničnih. Kar se tiče regulacije UI nas je veliko izpostavilo, da regulacija ne bo toliko vplivala na razvoj, dokler se jo razume. Nekatere stvari bi morali mogoče še predebatirati, saj je sam koncept zelo kompleksen in povleče toliko stvari za sabo, da je težko predvideti vse rezultate. Všeč mi je bilo, da smo imeli več skupin, da smo se lahko premikali naokrog in videli, kakšen je vidik regulatorja, vidik uporabnika in vidik podjetji.«

Smernice za varno uporabo umetne inteligence si lahko ogledate v priloženem dokumentu oz. na povezavi.

Rezultati UI: lahko koristni, lahko neuporabni

UI rezultate že uporabljamo v našem vsakdanjem življenju, iskanju informacij in drugih pogostih opravilih, pa smo takšne primere že enostavno sprejeli, kot del vsakodnevne rutine. Seveda pa so lahko UI rezultati včasih tudi nepredvidljivi, neuporabni včasih smešni ali pa celo, v nekaterih primerih, škodljivi. 

V letu 2017 je podjetje Volvo testiralo prosto vozeča vozila v Avstraliji. Med testom je vozilo zadelo kenguruja, saj ga ni prepoznalo kot oviro. To je primer napake v delovanju sistemov avtonomne vožnje, ki ima lahko hude posledice za uporabnike avtonomnih vozil in drugih udeležencev v prometu.

V DIH Slovenije so zbrali nekaj primerov pozitivne in negativne uporabe sistemov umetne inteligence. Ogledate si jih lahko na povezavi  Dobre in slabe prakse – UI.