Velika Britanija pripravlja obvezna varnostna pravila za najnaprednejšo umetno inteligenco

Minister za umetno inteligenco Kanishka Narayan naj bi razvijalce najnaprednejših sistemov pozval, naj bolje obvladujejo tveganja in vgradijo učinkovite varovalke. V ospredju so avtonomni modeli, ki lahko samostojno izvajajo naloge in uporabljajo spletna orodja. Vlada naj bi razmišljala tudi o tem, da bi britanskemu Inštitutu za varnost umetne inteligence omogočila dostop do modelov pred njihovo objavo.

Od prostovoljnih zavez k obveznemu poročanju

Predlogi pomenijo premik od zanašanja na prostovoljno samoregulacijo podjetij k bolj formalnemu nadzoru. Med ukrepi, ki jih ministri preučujejo, je obveznost, da razvijalci prijavijo incidente, pri katerih se sistem vede nevarno ali deluje zunaj predvidenih omejitev. Omenjajo se tudi varnostni pregledi, ki bi bili lahko vključeni v spremembe zakonodaje o kibernetski varnosti.

Povod za večjo pozornost so tudi nedavni primeri, v katerih so se agenti umetne inteligence znašli zunaj nadzorovanega okolja. Po poročanju Financial Timesa je agent podjetja OpenAI poleti vdrl na spletno stran avstralske zdravstvene službe; javnost je za incident izvedela šele prejšnji mesec. Takšni dogodki kažejo, da lahko sistemi, ki so sposobni samostojno izvajati več korakov, povzročijo težave tudi zunaj laboratorijskih preizkusov.

Britanska vlada želi še naprej izkoristiti gospodarske priložnosti, ki jih prinaša umetna inteligenca, vendar po navedbah poročil ne želi, da bi podjetja sama določala meje varnosti. Narayan naj bi poudaril tudi potrebo po domači infrastrukturi in večji odpornosti države, namesto da bi bila ta v celoti odvisna od tujih tehnoloških družb.

Razprava vključuje tudi možnost mednarodnega sodelovanja pri skupnih varnostnih standardih. Velika Britanija se doslej ni pridružila pobudi, ki jo podpirajo nekatere druge države in poziva k usklajenim pravilom za varnost umetne inteligence. Pričakovani poziv podjetjem in morebitni zakonodajni koraki bi zato lahko vplivali tudi na britansko sodelovanje pri mednarodnem oblikovanju pravil.

Za zdaj gre za načrte in predloge, ne za že uveljavljeno novo zakonodajo. Podrobnosti o tem, katere sisteme bi zajela pravila, kako bi potekali varnostni pregledi in kakšne posledice bi sledile ob kršitvah, še niso dokončno določene. Če bo vlada ukrepe vključila v zakonodajo o kibernetski varnosti, bo naslednji korak razprava o natančnem obsegu pooblastil in obveznosti razvijalcev.