Vodeće tvrtke slažu se oko zaštitnih mjera za upravljanje umjetnom inteligencijom

Bijela kuća objavila je da se sedam vodećih tvrtki na području umjetne inteligencije obvezalo upravljati rizicima koje nosi nova tehnologija.

To će uključivati testiranje sigurnosti umjetne inteligencije i javno objavljivanje rezultata tih testova.

Predstavnici Amazona, Anthropica, Googlea, Inflectiona, Mete, Microsofta i OpenAI pridružili su se američkom predsjedniku Joeu Bidenu u najavi suradnje.

Brzina kojom tvrtke razvijaju svoje alate potakla je strahove od širenja dezinformacija, posebno uoči predsjedničkih izbora u SAD-u 2024. godine.

"Moramo biti jasni i oprezni s prijetnjama koje proizlaze iz novih tehnologija koje mogu predstavljati - ne nužno, ali mogu predstavljati - rizik za demokraciju i naše vrijednosti", rekao je predsjednik Joe Biden tijekom govora u petak.

Prošli tjedan, Meta, Facebookova matična kompanija, također je najavila vlastiti AI alat pod nazivom Llama 2.

Kao dio sporazuma potpisanog u petak, tvrtke i američka vlada dogovorile su se:

• Sigurnosno testiranje njihovih AI sustava od strane unutarnjih i vanjskih stručnjaka prije njihovog objavljivanja
• Osiguravanje da ljudi mogu primijetiti AI sadržaj uvođenjem vodenih žigova
• Redovito javno izvješćivanje o mogućnostima i ograničenjima umjetne inteligencije
• Istraživanje rizika kao što su pristranost, diskriminacija i narušavanje privatnosti

Cilj je olakšati ljudima da prepoznaju kada je online sadržaj stvorila umjetna inteligencija.

Vodeni žigovi za sadržaj generiran umjetnom inteligencijom bili su među temama o kojima je europski povjerenik Thierry Breton razgovarao s izvršnim direktorom OpenAI-ja Samom Altmanom tijekom posjeta San Franciscu u lipnju.

"Veselim se nastavku naših rasprava - posebno o vodenom žigu", napisao je Breton u tweetu koji je uključivao isječak videa njega i gospodina Altmana.

U videu je g. Altman rekao da bih "vrlo uskoro želio pokazati" što OpenAI radi s vodenim žigovima.

Dobrovoljne zaštitne mjere potpisane u petak korak su prema strožoj regulaciji umjetne inteligencije u SAD-u.

Bijela kuća je rekla da će također raditi sa saveznicima na uspostavi međunarodnog okvira za upravljanje razvojem i korištenjem umjetne inteligencije. Upozorenja o tehnologiji uključuju da bi se mogla koristiti za generiranje dezinformacija i destabilizaciju društva te da bi mogla predstavljati egzistencijalni rizik za čovječanstvo - iako neki stručnjaci kažu da su apokaliptična upozorenja pretjerana.

Europa također priprema svoj zakon o umjetnoj inteligenciji koji će se odnositi na sve koji razvijaju i postavljaju sustave umjetne inteligencije u EU. Ima dosta sličnosti s novim američkim paktom o suradnji. Opseg regulacije ovisi o rizicima koje stvara svaka primjena, od minimalnih do "neprihvatljivih". Sustavi koji spadaju u drugu kategoriju potpuno su zabranjeni. To uključuje sustave za prepoznavanje lica u stvarnom vremenu u javnim prostorima, prediktivne policijske alate i sustave društvenog bodovanja slične onima u Kini koji ljudima dodjeljuju "ocjenu" na temelju njihova ponašanja.

Zakon također postavlja stroga ograničenja za "visokorizične" AI aplikacije, a to su one koje prijete "značajnom štetom ljudskom zdravlju, sigurnosti, temeljnim pravima ili okolišu".

To uključuje sustave koji se koriste za utjecaj na birače na izborima, kao i platforme društvenih medija s više od 45 milijuna korisnika koji preporučuju sadržaj svojim korisnicima – popis koji bi uključivao Facebook, Twitter, Instagram pa čak i najnovije Threads.

Zakon također navodi zahtjeve transparentnosti za sustave umjetne inteligencije.

Na primjer, sustavi poput ChatGPT-a trebali bi otkriti da je njihov sadržaj generirala umjetna inteligencija, razlikovati duboko lažne slike od stvarnih i pružiti zaštitu od stvaranja ilegalnog sadržaja.

Umjetna inteligencija privukla je veliku pozornost, kako pozitivnu tako i negativnu. Dobra vijest je da su vlade i tvrtke rano odgovorile na mnoge zabrinutosti javnosti i počele preventivno regulirati.

Naslovna slika: Slika jcompa na Freepiku