Anthropic razkril zlorabe modelov Claude Haiku, Sonnet in Opus

Varnostni strokovnjaki pri podjetju Anthropic so v zadnjih osmih mesecih preprečili vrsto naprednih kibernetskih operacij. Med napadalci so bile državne vohunske skupine, finančno motivirani kriminalci, ponudniki komercialne vohunske opreme ter posamezni hekerji. Poročilo izpostavlja ključni trend: umetna inteligenca je drastično zmanjšala potrebo po visoko usposobljenih ekipah strokovnjakov. Z uporabo orodij AI lahko zdaj že posamezniki ali manjše skupine izvajajo kompleksne napade, ki so bili včasih domena izključno dobro financiranih državnih služb.

Posebej izstopa primer državne skupine, povezane z ruskim vohunjenjem (označene kot GTG-20006), ki je napadala ukrajinske in evropske vladne ter vojaške cilje. Napadalci so uporabili model Claude podjetja Anthropic za skoraj popolno avtomatizacijo svojih operacij. Zgradili so sisteme, ki so samodejno prilagajali zlonamerno kodo vsakič, ko so jo varnostni programi zaznali, s čimer so se uspešno izogibali varnostnim orodjem. Poleg tega so z umetno inteligenco upravljali ribarjenje za podatki (phishing), prestrezali komunikacijo prek aplikacije WhatsApp ter prevzemali nadzor nad omrežji Wi-Fi v hotelih za preusmerjanje podatkovnega prometa tarč.

Napadalci so se osredotočili tudi na krajo intelektualne lastnine, predvsem razvijalnih kompletov za programsko opremo in sistemov umetne inteligence za upravljanje vojaških brezpilotnih letalnikov.

Čeprav AI znatno pospeši pripravo napadov, analizo podatkov in prilagajanje orodij, so ključne odločitve ter izbiro tarč še vedno vodili ljudje. Podjetje Anthropic je vse zaznane zlorabe zaustavilo, izboljšalo svoje varnostne mehanizme ter podatke o grožnjah delilo s partnerji in oblastmi.