Poslovna rješenja
Računalstvo, telefonija
Sigurnost
24.07.2023 08:40

Podijelite s drugima:

Udio

Vodeće tvrtke slažu se oko zaštitnih mjera za upravljanje umjetnom inteligencijom

Fotografija: jcomp na Freepiku
Fotografija: jcomp na Freepiku

Bijela kuća objavila je da se sedam vodećih tvrtki na području umjetne inteligencije obvezalo upravljati rizicima koje nosi nova tehnologija.

To će uključivati testiranje sigurnosti umjetne inteligencije i javno objavljivanje rezultata tih testova.

Predstavnici Amazona, Anthropica, Googlea, Inflectiona, Mete, Microsofta i OpenAI pridružili su se američkom predsjedniku Joeu Bidenu u najavi suradnje.

Brzina kojom tvrtke razvijaju svoje alate potakla je strahove od širenja dezinformacija, posebno uoči predsjedničkih izbora u SAD-u 2024. godine.

"Moramo biti jasni i oprezni s prijetnjama koje proizlaze iz novih tehnologija koje mogu predstavljati - ne nužno, ali mogu predstavljati - rizik za demokraciju i naše vrijednosti", rekao je predsjednik Joe Biden tijekom govora u petak.

Prošli tjedan, Meta, Facebookova matična kompanija, također je najavila vlastiti AI alat pod nazivom Llama 2.

Kao dio sporazuma potpisanog u petak, tvrtke i američka vlada dogovorile su se:

  • Sigurnosno testiranje njihovih AI sustava od strane unutarnjih i vanjskih stručnjaka prije njihovog objavljivanja
  • Osiguravanje da ljudi mogu primijetiti AI sadržaj uvođenjem vodenih žigova
  • Redovito javno izvješćivanje o mogućnostima i ograničenjima umjetne inteligencije
  • Istraživanje rizika kao što su pristranost, diskriminacija i narušavanje privatnosti

Cilj je olakšati ljudima da prepoznaju kada je online sadržaj stvorila umjetna inteligencija.

Vodeni žigovi za sadržaj generiran umjetnom inteligencijom bili su među temama o kojima je europski povjerenik Thierry Breton razgovarao s izvršnim direktorom OpenAI-ja Samom Altmanom tijekom posjeta San Franciscu u lipnju.

"Veselim se nastavku naših rasprava - posebno o vodenom žigu", napisao je Breton u tweetu koji je uključivao isječak videa njega i gospodina Altmana.

U videu je g. Altman rekao da bih "vrlo uskoro želio pokazati" što OpenAI radi s vodenim žigovima.

Dobrovoljne zaštitne mjere potpisane u petak korak su prema strožoj regulaciji umjetne inteligencije u SAD-u.

Bijela kuća je rekla da će također raditi sa saveznicima na uspostavi međunarodnog okvira za upravljanje razvojem i korištenjem umjetne inteligencije. Upozorenja o tehnologiji uključuju da bi se mogla koristiti za generiranje dezinformacija i destabilizaciju društva te da bi mogla predstavljati egzistencijalni rizik za čovječanstvo - iako neki stručnjaci kažu da su apokaliptična upozorenja pretjerana.

Europa također priprema svoj zakon o umjetnoj inteligenciji koji će se odnositi na sve koji razvijaju i postavljaju sustave umjetne inteligencije u EU. Ima dosta sličnosti s novim američkim paktom o suradnji. Opseg regulacije ovisi o rizicima koje stvara svaka primjena, od minimalnih do "neprihvatljivih". Sustavi koji spadaju u drugu kategoriju potpuno su zabranjeni. To uključuje sustave za prepoznavanje lica u stvarnom vremenu u javnim prostorima, prediktivne policijske alate i sustave društvenog bodovanja slične onima u Kini koji ljudima dodjeljuju "ocjenu" na temelju njihova ponašanja.

Zakon također postavlja stroga ograničenja za "visokorizične" AI aplikacije, a to su one koje prijete "značajnom štetom ljudskom zdravlju, sigurnosti, temeljnim pravima ili okolišu".

To uključuje sustave koji se koriste za utjecaj na birače na izborima, kao i platforme društvenih medija s više od 45 milijuna korisnika koji preporučuju sadržaj svojim korisnicima – popis koji bi uključivao Facebook, Twitter, Instagram pa čak i najnovije Threads.

Zakon također navodi zahtjeve transparentnosti za sustave umjetne inteligencije.

Na primjer, sustavi poput ChatGPT-a trebali bi otkriti da je njihov sadržaj generirala umjetna inteligencija, razlikovati duboko lažne slike od stvarnih i pružiti zaštitu od stvaranja ilegalnog sadržaja.

Umjetna inteligencija privukla je veliku pozornost, kako pozitivnu tako i negativnu. Dobra vijest je da su vlade i tvrtke rano odgovorile na mnoge zabrinutosti javnosti i počele preventivno regulirati.

Naslovna slika: Slika jcompa na Freepiku


Zanima vas više o ovoj temi?
ChatGPT Facebook Kovnica umjetna inteligencija


Što drugi čitaju?