Računalništvo, telefonija
Poslovne rešitve
Varnost
24.07.2023 08:40
Posodobljeno 2 leta nazaj.

Deli z drugimi:

Share

Vodilna podjetja se strinjajo z zaščitnimi ukrepi za obvladovanje umetne inteligence

Foto: jcomp na Freepiku
Foto: jcomp na Freepiku

Bela hiša je sporočila, da se je sedem vodilnih podjetij na področju umetne inteligence zavezalo k obvladovanju tveganj, ki jih predstavlja nova tehnologija.

To bo vključevalo testiranje varnosti umetne inteligence in javno objavo rezultatov teh testov.

Predstavniki podjetij Amazon, Anthropic, Google, Inflection, Meta, Microsoft in OpenAI so se pridružili ameriškemu predsedniku Joeju Bidnu pri objavi sodelovanja.

Hitrost, s katero podjetja razvijajo svoja orodja, je spodbudila strah pred širjenjem dezinformacij, zlasti v času pred predsedniškimi volitvami v ZDA leta 2024.

»Moramo biti jasni in pozorni na grožnje, ki izhajajo iz nastajajočih tehnologij, ki lahko predstavljajo – ni nujno, ampak lahko predstavljajo – tveganje za demokracijo in naše vrednote,« je med petkovim govorom dejal predsednik Joe Biden.

Prejšnji teden je tudi Meta, matična družba Facebooka, objavila lastno orodje AI, imenovano Llama 2.

Kot del sporazuma, podpisanega v petek, so se podjetja in ameriška vlada dogovorili za:

  • Varnostno testiranje njihovih sistemov AI s strani notranjih in zunanjih strokovnjakov pred njihovo izdajo
  • Zagotavljanje, da lahko ljudje opazijo AI vsebino z uvedbo vodnih žigov
  • Redno javno poročanje o zmogljivostih in omejitvah AI
  • Raziskovanje tveganj, kot so pristranskost, diskriminacija in vdor v zasebnost

Cilj je, da bi bilo ljudem enostavno ugotoviti, kdaj spletno vsebino ustvari umetna inteligenca.

Vodni žigi za vsebino, ustvarjeno z umetno inteligenco, so bile med temami, o katerih je evropski komisar Thierry Breton razpravljal z izvršnim direktorjem OpenAI Samom Altmanom med junijskim obiskom v San Franciscu.

»Veselim se nadaljevanja naših razprav – zlasti o vodnem žigu,« je Breton zapisal v tvitu, ki je vseboval izrezek videa njega in gospoda Altmana.

V videoposnetku je gospod Altman dejal, da bi »zelo kmalu rad pokazal«, kaj OpenAI počne z vodnimi žigi.

Prostovoljni zaščitni ukrepi, podpisani v petek, so korak k strožji ureditvi umetne inteligence v ZDA.

Bela hiša je dejala, da bo sodelovala tudi z zavezniki pri vzpostavitvi mednarodnega okvira za upravljanje razvoja in uporabe umetne inteligence. Opozorila o tehnologiji vključujejo, da bi jo lahko uporabili za ustvarjanje dezinformacij in destabilizacijo družbe ter da bi lahko predstavljala eksistencialno tveganje za človeštvo – čeprav so nekateri strokovnjaki dejali, da so apokaliptična opozorila pretirana.

Tudi Evropa pripravlja svoj akt o umetni inteligenci, ki bo veljal za vse, ki razvijajo in uvajajo sisteme umetne inteligence v EU. Ima kar nekaj podobnosti z novim ameriškim paktom o sodelovanju. Obseg regulacije je odvisen od tveganj, ki jih ustvarja posamezna aplikacija, od minimalnih do »nesprejemljivih«. Sistemi, ki spadajo v slednjo kategorijo, so popolnoma prepovedani. Ti vključujejo sisteme za prepoznavanje obraza v realnem času v javnih prostorih, prediktivna policijska orodja in socialne sisteme točkovanja, podobnim tistim na Kitajskem, ki ljudem dodelijo »rezultat« na podlagi njihovega vedenja.

Zakonodaja določa tudi stroge omejitve za »visoko tvegane« aplikacije AI, ki so tiste, ki ogrožajo »znatno škodo za zdravje ljudi, varnost, temeljne pravice ali okolje.«

Ti vključujejo sisteme, ki se uporabljajo za vplivanje na volivce na volitvah, kot tudi platforme družbenih medijev z več kot 45 milijoni uporabnikov, ki priporočajo vsebino svojim uporabnikom – seznam, ki bi vključeval Facebook, Twitter, Instagram in tudi najnovejši Threads.

Zakon tudi opisuje zahteve glede preglednosti sistemov umetne inteligence.

Na primer, sistemi, kot je ChatGPT, bi morali razkriti, da je bila njihova vsebina ustvarjena z umetno inteligenco, razlikovati globoko ponarejene slike od resničnih in zagotoviti zaščito pred ustvarjanjem nezakonite vsebine.

Umetna inteligenca je pritegnila ogromno pozornosti, pozitivne in negativne. Dobra novica je, da so se vlade in podjetja zgodaj odzvala na številne pomisleke javnosti in preventivno začela z regulacijo.

Naslovna slika: Image by jcomp on Freepik


Prijavi napako v članku
Vas zanima več iz te teme?
umetna inteligenca Facebook Meta ChatGPT


Kaj berejo drugi?

Partnerji Računalniških novic Prikaži vse

Zlati partner

SI SPLET d.o.o.

Ukmarjeva ulica 4, 1000 Ljubljana, Tel: 01 428 94 66
O podjetju Si splet V podjetju Si splet d. o. o. od leta 2001 tržimo varnostne rešitve na področju informacijskih tehnologij. V letu 2003 smo pridobili ekskluzivno partnerstvo ... Več

noviSplet, ATRIBUT d.o.o.

Verovškova ulica 55, 1000 Ljubljana, Tel: 01 565 32 61
Agencija za spletne storitve noviSplet Spletna agencija noviSplet deluje od leta 2004. Izdelala je že več kot 1000 spletnih mest. Na področju izdelave spletnih strani spada med ... Več
Diamantni partner

ADM ADRIA d.o.o.

Prvomajska ulica 17, 3000 Celje, Tel: 05 925 19 55
O nas Večina podjetij se ustanavlja zaradi poslovne ideje, prodajnega koncepta ali pa zaradi potrebe po formaliziranju opravljanja poslovnih aktivnosti. Na primeru družbe ADM-Adria, ... Več
Zlati partner

NIKON GmbH – Podporna pisarna Slovenija

Leskoškova 9e, 1000 Ljubljana, Tel: 01 280 08 12
Nikon je vodilno podjetje s področij fotografije, digitalnega zajema ter natančne optike. Njegove izdelke odlikujejo vrhunska kakovost izdelave, napreden dizajn ter odlične zmogljivosti, ... Več