Več moči kot dajemo tehnologiji, pomembnejši postaja človeški nadzor

O tem, kako obvladovati razdrobljenost infrastrukture, kje iskati pravo razmerje med avtomatizacijo in človeškim nadzorom ter kaj v IT prinaša agentic AI, smo se pogovarjali s Petrom Pavkovičem, direktorjem sektorja za infrastrukturo in rešitve v oblaku v ACTUAL I.T. O teh in sorodnih izzivih bodo strokovnjaki ACTUAL I.T. govorili tudi na letošnji NT konferenci.

Podjetja imajo vse bolj raznolika IT-okolja – od lastne infrastrukture in oblaka do številnih aplikacij in zunanjih storitev. Kdaj razdrobljenost postane problem?

Razdrobljenost je drag problem, vendar se njen strošek pogosto ne pokaže neposredno v IT-proračunu, ampak predvsem v izgubljenem času. Težave nastajajo na stikih med sistemi, kjer se podatki podvajajo, procesi ustavljajo, ob incidentih pa najprej ugotavljamo, kdo je za težavo sploh odgovoren. Opozorilni znaki so tudi nenehno naraščanje števila dobaviteljev ali situacije, ko za rešitev enega incidenta potrebujemo več partnerjev. Odgovor ni nujno popolna konsolidacija. Smiselno je najprej urediti področja, kjer razdrobljenost že ovira procese, odločanje ali nadaljnji razvoj okolja.

Stroški strojne opreme za zasebni oblak rastejo. Kako naj podjetja presodijo, ali je zasebni oblak še vedno smiselna izbira?

Na rast stroškov vpliva več dejavnikov. Povpraševanje po infrastrukturi za umetno inteligenco je močno povečalo potrebe po pomnilniku, diskih in grafičnih procesorjih, spremembe licenčnih modelov nekaterih ponudnikov virtualizacije pa so marsikje prinesle še dodaten strošek. Zato odločitev ne sme temeljiti samo na nabavni ceni, ampak na celotni življenjski dobi okolja in vrsti obremenitev. Pri stabilnih, predvidljivih obremenitvah in velikih količinah podatkov je zasebni oblak lahko še vedno zelo smiseln. Pri izrazito nihajočih ali sezonskih potrebah pa ima prednost model plačevanja po porabi. Pravo vprašanje zato ni več zasebni ali javni oblak, ampak katera obremenitev sodi kam in kdo bo takšno okolje učinkovito upravljal.

Sta avtomatizacija in umetna inteligenca v nasprotju ali predvsem v sinergiji? Kakšno vlogo pri tem prevzema agentic AI?

Predvsem sta v sinergiji, saj rešujeta različna dela istega problema. Avtomatizacija je odlična tam, kjer pravila poznamo vnaprej. Umetna inteligenca pa zna delati z nestrukturiranimi podatki in situacijami, ki niso povsem predvidljive. V ACTUAL I.T. ju povezujemo tako, da umetna inteligenca pomaga presoditi, kaj je treba narediti, avtomatizacija pa nalogo izvede po preverljivih korakih. Pri tem je ključno, da najprej uredimo procese in podatke. Agent nad slabim procesom namreč ne odpravi neurejenosti, ampak jo lahko samo še pospeši. Agentic AI predstavlja naslednji korak, saj lahko samostojno povezuje različna orodja in izbira zaporedje korakov med njimi. S tem prehajamo od avtomatizacije posameznih opravil k avtomatizaciji celotnih verig dela.

Kateri tehnološki izzivi danes že presegajo IT-oddelek in postajajo vprašanje vodstva?

Kibernetska varnost je že dolgo poslovno tveganje in ne zgolj tehnično vprašanje. Enako velja za odvisnost od tehnoloških dobaviteljev. Vodstvo mora vedeti, kateri ključni procesi so odvisni od posameznega ponudnika in kaj se zgodi, če njegove storitve niso več dosegljive. Pomembno postaja tudi vprašanje odgovornosti pri sistemih, ki že sprejemajo ali pomembno vplivajo na odločitve. Algoritmi določajo cene, modeli ocenjujejo tveganja, sistemi priporočajo ukrepe. Vodstvu ni treba poznati vseh tehničnih podrobnosti, mora pa razumeti, katere odločitve je podjetje že preneslo na tehnologijo in kdo zanje nosi odgovornost.

Kje vidite največji potencial agentic AI in kateri pogoji morajo biti izpolnjeni za njegovo varno uporabo?

Največji potencial vidim tam, kjer je danes človek predvsem vmesnik med različnimi sistemi – prepisuje podatke, preverja stanje in izvaja rutinske korake. Agenti lahko veliko naredijo pri triaži incidentov, prvi diagnostiki, pripravi poročil ter uvajanju in odjavi uporabnikov. Toda za to potrebujejo kakovostne podatke, jasne procese in nadzorovano okolje za testiranje. Še pomembnejša je varnost. Agent mora imeti svojo identiteto, minimalne in po možnosti časovno omejene pravice, vsa njegova dejanja pa morajo biti sledljiva. Obstajati mora tudi možnost njegove ustavitve in vrnitve sistema v prejšnje stanje. Agentu lahko torej zaupamo izvedbo določenih nalog, ne moremo pa mu brez jasnih pravil prepustiti odločitve o tem, kaj sploh sme početi.