Smo v izbirnem postopku za novo službo varni pred predsodki umetne inteligence?

Delodajalci uporabljajo chatbote, orodja za pregledovanje življenjepisov, motivacijskih pisem in drugih dokumentov, spletne ocene, spletne igre in video intervjuje za avtomatizacijo različnih faz izbirnega postopka ter javno dostopne podatke kandidatov. Delodajalci proces izbire kandidatov avtomatizirajo zaradi različnih razlogov, od pohitritve postopka, stroškovne optimizacije izbirnega postopka do večje kvalitete in raznolikosti kandidatov, pridobivanja in merjenja sposobnosti kandidatov izven tradicionalnih okvirjev (izobrazba, izkušnje, priporočila) itd.

Pristranskost tudi v algoritmičnih modelih

Poenostavljeno – umetna inteligenca zbira vse vrste informacij različnih oblik, obsega, velikosti in kvalitete, ki jih računalnik uporablja za učenje. Od količine in kvalitete podatkov pa je odvisno, v kolikšni meri in kako dobro bo računalnik lahko posnemal delovanje posameznika, v našem primeru kadrovskega delavca, ki umetno inteligenco uporablja pri izbiri kandidatov. V primeru zaposlovanja računalnik, ki uporablja umetno inteligenco zbira podatke kandidatov, in sicer tako tiste, ki jih pošlje kandidat, kot tudi tiste iz javno dostopnih spletnih strani in profilov – denimo Facebooka in Linkedina. Računalniški algoritem nato prepozna za določeno delovno mesto potrebne besede, sposobnosti, znanja, izkušnje, veščine, značajske lastnosti in še kaj.

Pogosto želijo delodajalci preprosto avtomatizirati in ponoviti svoje pretekle odločitve o izbiri kandidata, namesto da bi kandidata izbrali na podlagi natančne analize meril, povezanih z delovnim mestom. V kolikor ima delodajalec oziroma njegov kadrovski delavec določene predsodke, se le-ti lahko vključijo v algoritmične modele, na podlagi katerih se umetna inteligenca uči in kasneje deluje v skladu z njimi. Nenazadnje lahko algoritem za opis iste stvari pri različnih kandidatih prioritizira eno od dveh sopomenk, prednost bo tako imel tisti kandidat, ki bo uporabil besedo, bolj všečno algoritmu.

Kvalitetni in količinsko obsežni podatki, ki se uporabljajo za treniranje algoritmov, so pogoj za učenje računalnika. Ti podatki so lahko pristranski oziroma nosijo določene značilnosti, ki spodbujajo neenako obravnavanje posameznika oz. posameznice v primerjavi z nekom drugim zaradi narodnosti, rase, etničnega porekla, spola, zdravstvenega stanja, invalidnosti, jezika, verskega prepričanja, starosti, spolne usmerjenosti, izobrazbe, gmotnega stanja, družbenega položaja ali katere koli druge osebne okoliščine (t.i. diskriminacija). Predsodke v računalniški algoritem, ki uporablja umetno inteligenco, lahko vključijo že pisci algoritma ali pa uporabnik s tem, ko v napravo vključi točno toliko podatkov in le tiste podatke, ki jih sam želi.

Spremenljivke, ki jih algoritmi obravnavajo so lahko že prednastavljene in lahko vsebujejo pristranskost, modeli pa se lahko naučijo uporabljati znake za lastnosti ljudi. Poštne številke se lahko denimo uporabijo za indikator, iz katerega dela mesta ali države nekdo prihaja. Enako velja za priimke ali končnice priimkov.

Pomembna je vpeljava varnostnih mehanizmov

Pri Amazonu že od leta 2014 razvijajo algoritme za pregledovanje življenjepisov prosilcev za delo z namenom avtomatizacije iskanja talentov. Podjetje je s pomočjo računalnikov, ki so uporabljali umetno inteligenco, kandidatom za zaposlitev dajalo zvezdice od 1 do 5 – podobno kot kupci ocenjujejo izdelke na Amazonu. Izkazalo se je, da program ni nevtralen in pri izbiri prioritizira kandidate moškega spola, med drugim tudi na podlagi uporabljenih besed (in ne na podlagi znanja in izkušenj), zato so imele kandidatke ženskega spola povprečno bistveno nižje število zvezdic in posledično manj možnosti zaposlitve na določeno delovno mesto.^[1]

Kljub temu, da največ končnih odločitev dandanes še vedno naredi človek, se v praksi večkrat zgodi, da ta v postopku selekcije kandidatov uporablja računalnike, ki uporabljajo umetno inteligenco. Takšne odločitve so prav tako lahko plod pristranskega selekcijskega postopka računalnika, ki se zanaša na nepopolne, pristranske, oziroma netočne podatke.

Tehnologija sicer daje vtis objektivnosti, vendar pa je v tem trenutku uporabo takšnih tehnologij potrebno vzeti z določeno rezervo in vpeljati varnostne mehanizme, ki bodo na eni strani zagotovili, da bo tehnologija lahko napredovala in bila uporabljena, na drugi strani pa, da bodo postopki, za katere se tehnologija uporablja, zares nepristranski in ne bodo kršili pravic kandidatov.

Slovenija – pionir v razvoju umetne inteligence

Slovenija je v skupini držav, ki vzpostavlja globalno partnerstvo za umetno inteligenco, katere namen je usmerjanje odgovorne uporabe in razvoja umetne inteligence, ki bo ob upoštevanju človekovih pravic, vključevanja in raznolikosti spodbujala inovacije in gospodarsko rast. Ena izmed štirih tem, katerim bo partnerstvo s sedežem na OECD v Parizu posvečalo največ pozornosti, je tudi prihodnost dela.^[2] Slovenija ima tudi sicer prvi mednarodni raziskovalni center za umetno inteligenco, ki je bil ustanovljen marca 2019 in deluje pod okriljem UNESCA.

Slovenija umetne inteligence, strojnega učenja, velikih baz podatkov in povezanih vprašanj, v zakonu nima posebej urejenih. Najbolj prepoznavna značilnost umetne inteligence je prav njena avtonomnost, ki se odraža pri sprejemanju odločitev, ki so na koncu neodvisne od proizvajalca, imetnika, programerja ali končnega uporabnika. Ta avtonomija vodi v strah, da bi odločitve umetne inteligence v nekem trenutku prevladale nad človekovimi, kljub temu da v tem trenutku za večino odločitev še vedno stoji človek. Rešitev za to je preprosto v tem, da se bodisi vrnemo k človeškemu odločanju, bodisi področje zakonsko uredimo na način, da zapolnimo pravne vrzeli in področje ustrezno reguliramo tako, da bo hkrati tehnologiji omogočen razvoj.

V tem trenutku pravila o kazenski in civilni odgovornosti, lastništvu algoritmov, lastništvu podatkov in podobno zadostujejo, pričakuje pa se, da bodo v prihodnosti računalniki, ki uporabljajo umetno inteligenco, zapleteni do te mere, da obstoječa pravna ureditev ne bo več zadostovala. Z evolucijo računalnikov, ki bodo uporabljali umetno inteligenco, bodo bolj avtonomni in zapleteni računalniki vedno manj obravnavani kot preprosta orodja v rokah ljudi (proizvajalca, upravljavca, lastnika, uporabnika), temveč bodo obravnavani kot avtonomni subjekti. Zakon se bo takrat moral prilagoditi in jasno razlikovati, kateri objekti so avtonomni do te mere, da jim je potrebno pripisati lastno pravno osebnost in so kot taki nosilci lastnih pravic in obveznosti.

Trije nasveti za podjetja

1. Podjetja, ki se že poslužujejo različnih računalniških algoritmov pri izbiri kandidatov, naj zagotovijo izvedbo revizije programov, ki jo zaupajo neodvisnim strokovnjakom. Ti bodo izvedli pregled nad algoritmi in uporabo orodij. Na ta način se bo krepila odgovornost proizvajalcev oziroma prodajalcev, hkrati pa se bo zavarovala odgovornost delodajalca. Nenazadnje pa ima revizija lahko pomembno vlogo pri morebitnih sporih zaradi varstva intelektualne lastnine. Neodvisni revizorji bi lahko sledili uveljavljenim načelom na področju računalništva, pri tem pa bi država lahko pomembno vplivala na ureditev področja, saj bi z oblikovanjem revizijskega okvira in postavitve temeljnih zahtev glede hrambe in dokumentiranja tehničnih lastnosti, lahko zagotovila spoštovanje pravnih načel ter omogočila prilagajanje standardov tehnološkemu napredku.

2. Delodajalci so za postopke (ne)izbire odgovorni in morajo biti sposobni zagotoviti, da se računalnik, ki uporablja umetno inteligenco, lahko revidira za namen kazenskih ali civilnih postopkov. To vključuje hranjenje zapisov o podatkih, ki se uporabljajo za treniranje algoritmov in dokumentacijo odločitev, sprejetih z algoritmi.

3. Nenazadnje pa se podjetja lahko poslužijo tudi izdelave internih pravil, ki bi zagotovila razumevanje načina sprejemanja odločitev, razloge za odločitev in omogočila postopek za izpodbijanje domnevno pristranskih oziroma napačnih odločitev. Kandidat, ki bi privolil v zbiranje podatkov, njihovo obdelavo ter odločitvijo z uporabo umetne inteligence, bi moral biti seznanjen s pravili izvedbe ocenjevanja z uporabo umetne inteligence, na koncu pa tudi s kratkim poročilom z razlogi za izbiro oziroma zavrnitvijo izbire. Z jasnim postopkom pritožbe bi mu morali zagotoviti možnost do izpodbijanja odločitev, do katerih so prišli z uporabo umetne inteligence. Ta možnost je sicer najbolj kompleksna in za podjetje ni toliko optimalna kot prvi dve rešitvi.

Bistvo razvoja aplikacij, ki bodo uporabljale umetno inteligenco v prihodnosti, bo tako ustrezno zaznavanje pristranskih odločitev, odkrivanje, ocenjevanje in odpravljanje diskriminacije ter oblikovanje splošnih tehničnih standardov za uporabo te tehnologije.

^[1] Vir: https://www.reuters.com/article/us-amazon-com-jobs-automation-insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G

^[2] Vir in več informacij: MIZŠ, 15. 6. 2020