OpenAI predstavlja napredno možnost za zaščito občutljivih podatkov

Ustvarjalci priljubljenega klepetalnika ChatGPT so javnosti predstavili novo varnostno funkcijo, ki so jo poimenovali Lockdown Mode. Gre za namensko zaščito pred specifičnimi in zahrbtnimi spletnimi grožnjami. Te grožnje so v svetu umetne inteligence znane pod imenom napadi z vbrizgavanjem navodil (angl. prompt injection). To je nevarna oblika dejavnosti spletnih vsiljivcev in napadalcev, ki jo lahko v določenih okoliščinah opišemo kot hekerski vdor v sistem.

Napadalci poskušajo z vstavljanjem zlonamernih navodil v vsebine, ki jih obdeluje umetna inteligenca, pridobiti posebne prednosti. Preko takšnih napadov imajo namreč možnost, da odtujijo osebne podatke in celo poskušajo prevzeti popoln nadzor nad uporabnikovim digitalnim življenjem. Nova funkcija Lockdown Mode zato deluje kot nekakšna prostovoljna varna soba, v katero lahko uporabnik vstopi takrat, ko znotraj klepetalnika upravlja z izjemno občutljivimi informacijami, pri katerih bi uspešen napad povzročil nepopravljivo škodo.

Kadarkoli veliki jezikovni model (LLM) zapusti varno okolje običajnega okna v vašem spletnem brskalniku ali aplikaciji na pametnem telefonu, se izpostavi zunanjim nevarnostim. To se zgodi vsakič, ko se umetna inteligenca »odpravi« brskati po svetovnem spletu za iskanje svežih informacij, ko pridobiva zunanje slike ali ko poskuša namesto vas rezervirati letalske vozovnice. Ker vsi ti procesi odpirajo vrata za napade z vbrizgavanjem navodil, nova funkcija te napredne zmožnosti preprosto onemogoči.

Ko uporabnik aktivira ta strogi varnostni način, ChatGPT ne more več izvajati določenih nalog. Sistem tako ne more več brskati po spletu ali prikazovati slik znotraj svojih odgovorov. Kljub temu pa ustvarjanje novih slik in ročni prenos fotografij s strani uporabnika še vedno delujeta. Prav tako so v tem načinu onemogočene funkcije poglobljenega raziskovanja, delovanje v obliki samostojnega avtonomnega agenta, povezovanje z naprednim generatorjem programske kode Canvas ter neposredno prenašanje datotek iz zunanjih virov.

Kot so v uradnem zapisu na blogu poudarili pri OpenAI, ta možnost ni namenjena splošnemu krogu vsakdanjih uporabnikov. Zasnovana je predvsem za posameznike in organizacije, ki se vsakodnevno srečujejo z visoko zaupnimi podatki in potrebujejo strožje oblike varovanja pred tveganji za odtekanje podatkov. Kljub temu pa ostaja dejstvo, da je vnašanje strogo zaupnih informacij, kot so pravni dokumenti strank ali zdravstveni kartoni pacientov v jezikovne modele precej tvegano dejanje. Najbolj varna alternativa za zaščito podatkov pred tovrstnimi napadi tako še naprej ostaja preprosto pravilo, da občutljivih informacij nikoli ne zaupamo klepetalnikom.