Podjetja množično zaposlujejo agente UI, a jih večina ne zna pravočasno ustaviti

Podjetja vse več nalog prepuščajo avtonomnim agentom umetne inteligence, vendar pri njihovem nadzoru precej zaostajajo. Raziskava podjetja Gravitee razkriva zaskrbljujoče stanje. Le šest odstotkov vprašanih tehnoloških vodij bi lahko problematičnemu agentu UI v eni uri odvzelo dostop do vseh informacijskih sistemov.

V raziskavi je sodelovalo 900 vodilnih tehnoloških strokovnjakov iz ZDA in Združenega kraljestva. Manj kot desetina organizacij ima uradno določeno osebo, ki odgovarja za ravnanje agentov AI. Še bolj presenetljivo je, da ima v povprečju le 51 % agentov vzpostavljena pravila, ki dejansko omejujejo njihova dovoljena dejanja.

Posledice niso več zgolj teoretične. Več kot polovica sodelujočih je v zadnjem letu zaznala vsaj en varnostni incident, povezan z agenti AI. Med prijavljenimi primeri so razkritja prijavnih podatkov, internih cenikov in kontaktnih informacij strank. Nekateri agenti so občutljive podatke celo posredovali zunaj organizacije.

Težava se nadaljuje tudi pri ugotavljanju odgovornosti. Samo vsak osmi vprašani bi lahko v celoti rekonstruiral, kaj je posamezen agent počel pred 30 dnevi in s čigavimi pooblastili.

Direktor podjetja Gravitee Rory Blundell opozarja, da podjetja agentom vse pogosteje omogočajo samostojno odločanje, ne da bi vzpostavila ustrezne mehanizme nadzora. Rešitev vidi v jasni identiteti vsakega agenta, omejevanju njegovih pravic in beleženju dejavnosti.

Umetna inteligenca tako dobiva vse več pristojnosti, podjetja pa pogosto še vedno nimajo odgovora na najosnovnejše vprašanje, kdo jo bo ustavil, ko bo šlo kaj narobe.