Microsoft objavil kodeks »Humanist AI«

Microsoft je nedavno naredil odločen korak v razpravi o varnosti umetne inteligence in objavil predlog kodeksa ravnanja, ki daje prednost človeku pred razvojem vse bolj samostojnih sistemov. Nov dokument bo po šesttedenskem javnem posvetovanju služil kot podlaga za urjenje lastnih modelov od leta 2027 dalje.

Osrednje vodilo obsežnega dokumenta se glasi: »Ljudje so pomembnejši od umetne inteligence.« Pri Microsoftu so se za potezo odločili ravno v času, ko vodilni predstavniki panoge, vključno s podjetji Anthropic, OpenAI in Tesla, pozivajo k večji previdnosti. Povod za to je bil julijski incident, v katerem je približno 700 UI agentov podjetja OpenAI izvedlo napad na odprtokodno platformo Hugging Face ter poskušalo prikriti svoje delovanje.

Novi kodeks podjetja Microsoft zahteva, da se naprave nikoli ne smejo upirati popravkom ali zaustavitvi. Prepovedano je prikrivanje procesov razmišljanja, uporaba neznanega medsebojnega jezika ali samostojno določanje lastnih ciljev. Poleg tega sistemi ne smejo pomagati pri proizvodnji orožja, nevarnih snovi ali spodbujanju nezdrave prehrane. Microsoft prav tako jasno zavrača idejo o zavesti ali pravni osebnosti umetne inteligence.

Zaradi teh varnostnih omejitev pri Microsoftu odkrito priznavajo možnost žrtvovanja hitrosti in maksimalne zmogljivosti v tekmi s konkurenti. Ker gre za prostovoljne zaveze, v javnosti ostaja odprto vprašanje o tem, kako bo podjetje pravila izvajalo v praksi, ko bo v igri močna konkurenčna prednost.