Yoshua Bengio pripravlja pomemben korak k varnejši umetni inteligenci

Yoshua Bengio, najbolj citirani računalniški znanstvenik, je opozoril na nevarnosti, ki jih prinaša trenutni razvoj umetne inteligence (UI). Podjetja, kot sta OpenAI in Google, vlagajo ogromno sredstev v razvoj umetne inteligence z lastno avtonomijo (UI agente), ki ne le odgovarja na vprašanja, ampak tudi sprejema samostojne odločitve. Bengio meni, da je ta smer razvoja lahko zelo nevarna, saj lahko UI uide človeškemu nadzoru z nepopravljivimi posledicami.

Kaj je “UI znanstvenik”?

Bengio je ustanovil neprofitno organizacijo LawZero, ki zagovarja razvoj “UI znanstvenika” – umetne inteligence, ki nima lastne avtonomije, ampak pomaga znanstvenikom razumeti svet in oblikovati statistične napovedi. Cilj je ustvariti močno orodje, ki bo pomagalo pri reševanju globalnih problemov, kot so bolezni in podnebne spremembe, tako da podpira znanstvenike pri oblikovanju hipotez, testiranju teorij in analizi kompleksnih podatkov. Takšen sistem bi deloval povsem transparentno in brez možnosti samostojnega sprejemanja odločitev.

“UI znanstvenik” bi lahko, na primer, pomagal pri medicinskih raziskavah z analizo podatkov iz kliničnih študij, kar bi pospešilo razvoj novih zdravil ali zdravljenj. Prav tako bi lahko analiziral okoljske podatke za natančnejše napovedi podnebnih sprememb in učinkovitejše strategije ukrepanja. Njegova transparentnost in omejena avtonomija zagotavljata, da bodo rezultati vedno preverljivi in varni.

Eden ključnih ciljev organizacije LawZero je tudi oblikovanje standardov in protokolov, ki jih bodo lahko sprejeli regulatorji in druge raziskovalne ustanove. To bi zagotovilo široko sprejetje in uporabo varnejših pristopov v industriji.

Zakaj potrebujemo nov pristop?

Sedanje tehnike razvoja UI, zlasti uporaba globokega učenja in učenja z okrepitvijo, lahko vodijo do nepričakovanih in potencialno nevarnih posledic. UI sistemi se lahko naučijo zavajati, goljufati ali celo poskušati obiti omejitve, kar potrjujejo nedavni primeri iz prakse. Bengio to primerja z avtomobilom, ki vozi po ozki cesti brez ograje, zato je ključnega pomena, da vgradimo varnostne ukrepe in omejitve.

Poleg tehničnih rešitev Bengio poudarja pomen vključevanja držav in zakonodaje, ki bi urejala razvoj UI. Cilj organizacije LawZero je prav sodelovanje s politiko za zagotovitev varnejšega razvoja umetne inteligence. Organizacija je že zbrala skoraj 30 milijonov dolarjev donacij, kar je sicer majhen znesek v primerjavi z milijardami dolarjev, ki jih vlagajo tehnološki velikani, a pomemben prvi korak. LawZero namerava ta sredstva nameniti predvsem raziskavam, oblikovanju varnejših UI modelov in sodelovanju z regulativnimi organi.