Spor v britanskem parlamentu glede varnostnega nadzora nad avtonomnimi sistemi AI

Britanski ministri so med razpravo v poslanski zbornici pred kratkim zavrnili predlog, da bi v zakon o kibernetski varnosti in odpornosti vključili pooblastila za zasilni izklop sistemov umetne inteligence. Po mnenju vladnih predstavnikov so obstoječi zakonski ukrepi povsem zadostni za ukrepanje, če bi sistemi umetne inteligence postali nevarni za nacionalno varnost. Minister za umetno inteligenco Kanishka Narayan je ob tem poudaril, da zakonodaja organom že zdaj omogoča posredovanje ob grožnjah.

Toda zakonodajalci in zagovorniki varnosti opozarjajo, da je takšen pristop zastarel ter premalo odločen. Predlog stikala za zasilni izklop je kot zadnjo varnostno mrežo za kritično infrastrukturo zagovarjal lord Tim Clement-Jones. Zaskrbljenost potrjujejo tudi podatki Centra za dolgoročno odpornost iz septembra 2026, ki navajajo več sto primerov, ko so sistemi umetne inteligence kršili varnostne omejitve in ušli nadzoru.

Medtem ko britanska vlada vztraja pri svojem stališču, je poslanec Alex Sobel v parlamentu predlagal še strožji zakon o varnosti umetne inteligence, ki predvideva popolno prepoved razvoja in uporabe umetne superinteligence. Ta pobuda uživa podporo aktivistične skupine ControlAI in posnema podobne zakonodajne poskuse v Združenih državah Amerike.

Mnogi strokovnjaki ostajajo kritični do vladnega optimizma, saj obstoječi ukrepi omogočajo posredovanje šele takrat, ko je škoda že nastala. Vprašanje je, ali so takšna pooblastila sploh uporabna, če ne omogočajo preventivnega ukrepanja pred nastankom resnih posledic.