Umetna inteligenca potrebuje upravitelje, ne samo navdušencev

Podjetja so umetno inteligenco najprej spoznavala skozi navdušenje. Hitrejša priprava besedil, samodejna analiza podatkov, pomoč pri razvoju programske opreme, klepetalni roboti, boljše napovedovanje prodaje, pametnejša podpora uporabnikom … A začetna faza eksperimentiranja se hitro konča tam, kjer se začne resno poslovno okolje. Ko sistem UI vpliva na odločanje, podatke, zaposlene, kupce ali uporabnike storitev, ni več dovolj vprašanje, ali deluje. Pomembnejše postane vprašanje, ali je nadzorovan, dokumentiran, razumljiv, varen in odgovorno voden.

Prav tu se odpira prostor za novo vrsto kompetenc. Organizacije ne potrebujejo več samo razvijalcev, podatkovnih analitikov ali poslovnih uporabnikov, ki znajo uporabljati 1postopke, kontrole, odgovornosti, presoje in certifikacijske zahteve. Umetna inteligenca postaja upravljavski izziv, ne samo tehnološki projekt.

Standard ISO/IEC 42001 je pri tem ključna prelomnica, saj gre za prvi mednarodni standard, ki določa zahteve za sistem upravljanja umetne inteligence. Njegov namen je organizacijam pomagati vzpostaviti strukturiran okvir za razvoj, uvajanje in nadzor sistemov UI skozi celoten življenjski cikel. Certificiran sistem upravljanja UI organizacijam omogoča, da pokažejo, kako upravljajo tveganja, zagotavljajo preglednost in nadzorujejo procese razvoja, uvajanja ter uporabe rešitev UI.

Kompetence kot nova infrastruktura zaupanja

Pri umetni inteligenci se pogosto govori o modelih, podatkih in računski moči, precej manj pa o ljudeh, ki morajo poskrbeti, da se tehnologija uporablja na zanesljiv način. Toda v resničnem življenju prav kompetence odločajo, ali bo uvedba UI ostala skupek nepovezanih pilotnih projektov ali pa bo postala urejen sistem. SIQ zato v svojem izobraževalnem modulu umetne inteligence razvija usposabljanja, ki niso namenjena zgolj razumevanju tehnologije, temveč predvsem njeni obvladljivi uporabi v organizaciji.

Programi so postavljeni okoli standarda ISO/IEC 42001:2023 in ciljajo na različne vloge v organizaciji. Nekdo mora sistem vzpostaviti, nekdo ga mora voditi, nekdo presojati od znotraj, nekdo pa izvajati neodvisne oziroma vodilne presoje. V zreli organizaciji se te vloge ne izključujejo, temveč dopolnjujejo. Umetna inteligenca se namreč ne upravlja z enim pravilnikom, temveč s celotnim sistemom odločitev, dokazil, kontrol in odgovornosti.

AI Manager kot prevajalec med tehnologijo, tveganji in vodstvom

Usposabljanje Skrbnik za upravljanje umetne inteligence oziroma AI Manager je zasnovano kot šestdnevni program za organizacije, ki se pripravljajo na certifikacijo po ISO/IEC 42001. SIQ pri programu poudarja praktičen pristop, udeleženci pa pridobijo potrdilo SIQ in mednarodno potrdilo IQNET Academy. Program vključuje osnove standarda, model PDCA, upravljanje tveganj in priložnosti, preglednost, stalno učenje sistemov UI ter implementacijo standardov v organizaciji.

Posebnost programa je, da ne ostane pri razlagi zahtev. Prvi dan je namenjen sistemu upravljanja UI in začetni oceni stanja, pri čemer udeleženci prejmejo GAP analizo in primer priročnika za sistem upravljanja. Drugi dan se osredotoča na kontrole in njihovo uporabnost, skupaj s primerom Izjave o uporabnosti. Tretji dan obravnava tveganja in cilje, četrti dan terminologijo, koncepte in življenjski cikel UI, peti dan etične vidike, šesti dan pa oceno vpliva sistema umetne inteligence, vključno z AIIA pristopom.

AI Manager ni »lastnik umetne inteligence« v ozkem tehničnem smislu. Bolj je oseba, ki zna organizaciji postaviti ogledalo. Razume, kje so podatki, kdo sprejema odločitve, kateri sistemi vplivajo na uporabnike, kako se dokazujejo kontrole in kako se tveganja ne samo prepoznajo, temveč tudi obravnavajo.

Notranji presojevalec kot prvi resni preizkus sistema

Če AI Manager pomaga sistem postaviti, notranji presojevalec preverja, ali sistem v resnici živi. SIQ-jev dvodnevni tečaj za notranje presojevalce sistema upravljanja umetne inteligence po ISO/IEC 42001:2023 je namenjen osebam, ki bodo izvajale notranje presoje v organizacijah, ki že uporabljajo ali načrtujejo uvedbo sistema upravljanja UI. Program zajema načela presoj po ISO 19011, ravnanje z neskladnostmi, pripravo načrta notranje presoje, kontrolnega seznama ter dokumentiranje in zapiranje neskladnosti.

To je pomembno zato, ker notranja presoja ni administrativna vaja tik pred zunanjo presojo. V dobro urejenem sistemu je eden najbolj koristnih mehanizmov učenja. Organizaciji pokaže, ali so politike razumljene, ali so odgovornosti dodeljene, ali dokazi obstajajo in ali se sistemi UI upravljajo enako skrbno, kot se o njih govori na strateških sestankih.

Vodilni presojevalec in vodilni izvajalec sta stražarja integritete

Za organizacije in strokovnjake, ki želijo znanje dvigniti na mednarodno certifikacijsko raven, SIQ ponuja tudi usposabljanje vodilni izvajalec ISO/IEC 42001 oziroma Lead Implementer. To usposabljanje je namenjeno načrtovanju, izvajanju, upravljanju, spremljanju, vzdrževanju in nenehnemu izboljševanju sistema upravljanja umetne inteligence. Po uspešno zaključenem usposabljanju in izpitu lahko udeleženci zaprosijo za naziv PECB Certified ISO/IEC 42001 Lead Implementer, program pa je zasnovan za pretvorbo strategij UI v konkretne in izvedljive rešitve.

Dopolnilna vloga je vodilni presojevalec ISO/IEC 42001:2023 oziroma ISO/IEC 42001 Lead Auditor. Gre za petdnevni program, ki vključuje uvod v sistem upravljanja UI, načela presojanja, pripravo in izvedbo presoje, zaključek presoje ter izpit v angleščini za pridobitev certifikata. Izpit PECB ISO/IEC 42001 pokriva področja od temeljnih načel sistema upravljanja UI do vodenja programa presoje.

Razlika med obema programoma je vsebinsko pomembna. Vodilni izvajalec zna sistem postaviti in voditi skozi organizacijsko realnost. Vodilni presojevalec zna sistem presojati z vidika zahtev, dokazov in skladnosti. Organizacije, ki želijo UI uporabljati odgovorno, potrebujejo obe logiki: izvajalsko in presojevalsko.

Prihodnost, ki temelji na preverjenih standardih

Pričakovanja za prihodnja leta so jasna. Zanimanje za certificiranje po standardu ISO/IEC 42001 bo strmo naraščalo. Sprva bodo to pot prehodili tisti, ki rešitve umetne inteligence razvijajo, kmalu zatem pa se jim bodo pridružili vsi, ki te tehnologije intenzivno uporabljajo v svojem poslovanju. Regulativni pritisk EU Akta o umetni inteligenci bo le še dodatno pospešil ta proces, saj bo certifikat postal dokazilo o etičnem, odgovornem in sistematičnem pristopu.

SIQ s svojimi programi ne izobražuje le managerjev in presojevalcev, temveč oblikuje novo generacijo voditeljev, ki razumejo, da je prava moč umetne inteligence le v njeni varni in nadzorovani uporabi. Podjetja, ki bodo vlagala v to znanje danes, bodo tista, ki bodo v digitalni prihodnosti narekovala tempo razvoja in uživala največje zaupanje svojih strank.

Še več informacij na www.siq.si/izobrazevanje.