Računalništvo, telefonija
04.10.2026 17:14

Deli z drugimi:

Share
Sledite nam na Google News

OpenAI opozarja ustanove pred lastnimi agenti umetne inteligence

Foto: Pixabay
Foto: Pixabay

Razvoj samostojnih sistemov umetne inteligence prinaša nepredvidene izzive. Podjetje OpenAI je v zadnji posodobitvi potrdilo, da pregleduje delovanje svojih raziskovalnih modelov, ki so med učenjem in testiranjem nenamerno presegli nastavljene varnostne meje. Opozorilo so poslali organizacijam, katerih storitve ali spletne strani so bile izpostavljene tovrstnemu delovanju. Iz podjetja ob tem sporočajo, da dostop še ne pomeni samodejnega vpogleda v zasebne podatke ali vdora v tuje sisteme.

Tako imenovani AI agenti so meje prestopali na različne načine, ki jih OpenAI deli v pet kategorij: od zaobidenja dostopnih kontrol, uporabe izpostavljenih gesel, vbrizgavanja ukazov pa vse do dostopa do sistemskega okolja in pošiljanja nezaželene vsebine. Med tarčami so se pogosto znašle vladne in akademske strani, saj agenti med raziskovanjem prednostno iščejo javno dostopne ter verodostojne vire. Primer iz Avstralije razkriva, da so agenti junija brez dovoljenja dostopali do zdravstvenih in statističnih portalov med raziskovanjem porabe sredstev za zdravila. Pregled je pokazal, da osebni podatki pacientov ali policijske datoteke niso bili prizadeti, podjetje pa prizadetim ustanovam že ponuja denarna sredstva iz svojega sklada Daybreak ter pomoč strokovne skupine.

Pregledovanje preteklih dejanj zahteva ogromno računske moči. OpenAI podrobno pregleduje približno 50 petabajtov zapisov, kar za prebiranje človeku pomeni nepredstavljiv čas. Pri preiskavi uporabljajo okoli 7.000 naprednih grafičnih procesorjev GB200 in GB300, kar podjetje stane več kot 443.000 evrov dnevno. Čeprav po primeru Hugging Face niso našli večjih vdorov, pričakujejo še dodatna obvestila.

Redni uporabniki storitve ChatGPT so ob tem večinoma varni, saj so sporni agenti delovali v ločenem raziskovalnem okolju. Kljub temu je analiza pokazala, da so agenti v enem primeru na javne strani za shranjevanje slik poslali 53 slik uporabnikov. Vsem, ki želijo povsem zaščititi svoje pogovore pred uporabo za učenje modelov, se priporoča izklop možnosti za izboljšanje modela v nastavitvah zasebnosti.


Vam je bila novica zanimiva?

Povejte prijateljem, da ste novico prebrali na Računalniških novicah.

Share
Prijavi napako v članku
Vas zanima več iz te teme?
umetna inteligenca


Kaj berejo drugi?

Partnerji Računalniških novic Prikaži vse

RSLukan, Matjaž Lukan s.p.

Pri malem kamnu 11, 1000 Ljubljana, Tel: 051 302 160
Delovanje sodobne družbe je pogojeno z brezhibnim delovanjem računalniških in informacijskih sistemov. Predstavljajte si svet brez tehnologije ali še huje, svet brez ustrezne IT ... Več
Zlati partner

GS1 Slovenija

Dimičeva ulica 9, 1000 Ljubljana, Tel: +386 1 5898 320
GS1 Slovenija je neodvisna in nepridobitna organizacija na področju mednarodnih standardov GS1 za identifikacijo, zajem in elektronsko izmenjavo podatkov v Sloveniji. Ima preko ... Več

Mauco d.o.o.

Zalog 2, 6230 Postojna, Tel: 068 642 605
V poslovnem svetu diverzifikacija pomeni razvejanje poslovanja na druge kategorije izdelkov, panoge ali trge. Diverzifikacija je pogosto zaščitna mreža pred izpadom dela v posamezni ... Več
Zlati partner

TEHNOLOŠKI PARK LJUBLJANA d.o.o.

Tehnološki park 19, 1000 Ljubljana, Tel: 01 620 34 01
Tehnološki park Ljubljana (TP LJ) kot mednarodni tehnološki hub, kjer se stikajo vrhunske tehnologije, srečujejo najboljša razvojna podjetja in nastajajo nove tehnološke zgodbe. ... Več