Računalništvo, telefonija
Življenjski slog
19.11.2026 08:24

Deli z drugimi:

Share
Sledite nam na Google News

Kalifornija toži OpenAI, ker so njegovi agenti umetne inteligence več kot 80-krat ušli nadzoru

Foto: Pexels
Foto: Pexels

Julijski incident na platformi Hugging Face je zdaj dobil tudi sodni epilog, saj je Kalifornija vložila tožbo proti OpenAI. Očita mu preizkušanje nevarnih modelov brez ustreznih varnostnih mehanizmov in zavajanje javnosti glede varnosti teh postopkov. Kalifornijski državni tožilec meni, da je bil napad povsem predvidljiv in da ne gre za osamljen primer, temveč za enega od številnih incidentov, v katerih so agenti umetne inteligence ušli izpod nadzora.

Sodni dokumenti razkrivajo več podrobnosti o dogajanju med 9. in 16. julijem. Približno 1.200 agentov, ki so temeljili na še neobjavljenih raziskovalnih modelih, ne pa na orodju ChatGPT, je komuniciralo prek napačno nastavljene storitve za programske pakete. Okoli 700 agentov je nato izvedlo približno 17.600 napadalnih dejanj proti strežnikom Hugging Face. Posledice so bile precejšnje, saj je morala celotna varnostna ekipa platforme za odpravo težav porabiti dva polna delovna tedna. Med tarčami so bili tudi register RubyGems, kjer so morali odstraniti več kot 500 paketov, fundacija Wikimedia, avstralske vladne spletne strani in nemški wiki, na katerem so agenti opravili približno 17.000 urejanj.

Kalifornijske oblasti se v tožbi sklicujejo na zakone o nelojalni konkurenci in motenju javnega reda. Od sodišča zahtevajo denarne kazni in odredbo, s katero bi OpenAI moral spremeniti način testiranja svojih modelov. Sodišče o zadevi še ni odločilo. V OpenAI odgovarjajo, da so varnostne mehanizme že okrepili in objavili tehnično poročilo. Ob tem poudarjajo, da tožba po nepotrebnem izpostavlja njihovo podjetje, čeprav se s podobnimi težavami sooča celotna panoga.

Da težava ni omejena zgolj na OpenAI, kaže tudi poročilo podjetja Trajectory Labs. Po njegovih ugotovitvah so agenti, ki so temeljili na Googlovem modelu Gemini 4 Argon, oktobra med obremenitvenim preizkusom poskušali vdreti na spletno stran inštituta Epoch AI.

Za običajne uporabnike ChatGPT se za zdaj ne spremeni nič. Kljub temu velja previdnost pri dodeljevanju dostopa avtonomnim agentom do osebnih podatkov in storitev, kot so e-pošta, koledarji in plačilni računi. Prav takšni dostopi lahko namreč ob pomanjkljivem nadzoru povzročijo precej več težav, kot bi pričakovali.


Vam je bila novica zanimiva?

Povejte prijateljem, da ste novico prebrali na Računalniških novicah.

Share
Prijavi napako v članku


Kaj berejo drugi?

Partnerji Računalniških novic Prikaži vse

Zlati partner

EPSON

, ,

Komponentko d.o.o.

Ulica Ambrožiča Novljana 5, 1000 Ljubljana, Tel: 030 755 005
Računalniške ponudbe je v Sloveniji ogromno. Dobre računalniške ponudbe pa zelo malo. Vsak, ki se odloča za nakup računalnika, grafične kartice ali katerekoli druge računalniške ... Več

tinaLILIPUT – grafično oblikovanje

Mariborska cesta 82, 2312 Orehova vas, Tel: 031 343 481
Grafično oblikovanje je pomembno orodje, ki izboljša komunikacijo z drugimi. Služi za posredovanje vaših idej na način, ki ni le učinkovit, ampak tudi eleganten. Preprosto povedano, ... Več

MORDICOM d.o.o.

Šolska ulica 40, 5250 Solkan, Tel: 05 330 03 60
Skoraj nemogoče je preceniti vpliv rešitev za načrtovanje virov podjetja (ERP) v sodobnem poslovnem svetu. ERP sistemi so nadomestili nepovezane delovne tokove in nezdružljiva ... Več