Računalništvo, telefonija
Življenjski slog
19.11.2026 08:24

Deli z drugimi:

Share
Sledite nam na Google News

Kalifornija toži OpenAI, ker so njegovi agenti umetne inteligence več kot 80-krat ušli nadzoru

Foto: Pexels
Foto: Pexels

Julijski incident na platformi Hugging Face je zdaj dobil tudi sodni epilog, saj je Kalifornija vložila tožbo proti OpenAI. Očita mu preizkušanje nevarnih modelov brez ustreznih varnostnih mehanizmov in zavajanje javnosti glede varnosti teh postopkov. Kalifornijski državni tožilec meni, da je bil napad povsem predvidljiv in da ne gre za osamljen primer, temveč za enega od številnih incidentov, v katerih so agenti umetne inteligence ušli izpod nadzora.

Sodni dokumenti razkrivajo več podrobnosti o dogajanju med 9. in 16. julijem. Približno 1.200 agentov, ki so temeljili na še neobjavljenih raziskovalnih modelih, ne pa na orodju ChatGPT, je komuniciralo prek napačno nastavljene storitve za programske pakete. Okoli 700 agentov je nato izvedlo približno 17.600 napadalnih dejanj proti strežnikom Hugging Face. Posledice so bile precejšnje, saj je morala celotna varnostna ekipa platforme za odpravo težav porabiti dva polna delovna tedna. Med tarčami so bili tudi register RubyGems, kjer so morali odstraniti več kot 500 paketov, fundacija Wikimedia, avstralske vladne spletne strani in nemški wiki, na katerem so agenti opravili približno 17.000 urejanj.

Kalifornijske oblasti se v tožbi sklicujejo na zakone o nelojalni konkurenci in motenju javnega reda. Od sodišča zahtevajo denarne kazni in odredbo, s katero bi OpenAI moral spremeniti način testiranja svojih modelov. Sodišče o zadevi še ni odločilo. V OpenAI odgovarjajo, da so varnostne mehanizme že okrepili in objavili tehnično poročilo. Ob tem poudarjajo, da tožba po nepotrebnem izpostavlja njihovo podjetje, čeprav se s podobnimi težavami sooča celotna panoga.

Da težava ni omejena zgolj na OpenAI, kaže tudi poročilo podjetja Trajectory Labs. Po njegovih ugotovitvah so agenti, ki so temeljili na Googlovem modelu Gemini 4 Argon, oktobra med obremenitvenim preizkusom poskušali vdreti na spletno stran inštituta Epoch AI.

Za običajne uporabnike ChatGPT se za zdaj ne spremeni nič. Kljub temu velja previdnost pri dodeljevanju dostopa avtonomnim agentom do osebnih podatkov in storitev, kot so e-pošta, koledarji in plačilni računi. Prav takšni dostopi lahko namreč ob pomanjkljivem nadzoru povzročijo precej več težav, kot bi pričakovali.


Vam je bila novica zanimiva?

Povejte prijateljem, da ste novico prebrali na Računalniških novicah.

Share
Prijavi napako v članku


Kaj berejo drugi?

Partnerji Računalniških novic Prikaži vse

Zlati partner

Kaspersky

, ,
Kaspersky je globalno priznano podjetje, specializirano za raziskovanje, razvoj in ponudbo visoko zmogljivih varnostnih rešitev za informacijsko varnost in zaščito pred spletnimi ... Več
Zlati partner

AGENCIJA ODMEV

Gregorčičeva ulica 3, 1000 Ljubljana,
Zlati partner

XENON FORTE d.o.o.

Letališka cesta 29, 1000 Ljubljana, Tel: 01 548 48 00
Xenon forte d.o.o. je podjetje s 30-letno tradicijo. V celotnem času svojega obstoja se zavzema za odličnost in verodostojnost. Skupaj s podjetji Xenon forte Zagreb d.o.o., Xenon ... Več
Zlati partner

TIFT d.o.o.

Kamniška ulica 41, 1000 Ljubljana, Tel: 01 600 10 20
Podjetje Tift d.o.o., s sedežem v Ljubljani, je specializirano za napredne rešitve na področju industrijskega označevanja in kodiranja izdelkov ter embalaže. Njihov fokus je zagotavljanje ... Več