Konec neoznačenih besedil? Claude uvaja obvezne digitalne vodne žige

Vsa nova besedila, ustvarjena z modeli Anthropic, odslej vsebujejo skrito oznako, ki omogoča prepoznavanje njihovega izvora. Podjetje je 3. novembra modele Claude Mythos 5, Opus 4.7 in Sonnet 4.6 opremilo z nevidnim vodnim žigom, kmalu pa bodo sledile tudi starejše različice, med njimi Opus 4.6, Opus 4.5, Sonnet 4.5 in Haiku 4.5. Začetek posodobitve za slednje je predviden za 16. november. Novost velja za uporabnike po vsem svetu, ne glede na to, ali uporabljajo uradno aplikacijo Claude, orodji Claude Code in Cowork ali do storitve dostopajo prek oblačnih platform AWS, Google Cloud in Microsoft Foundry.

Razlog za uvedbo tehnične prilagoditve je evropski Akt o umetni inteligenci. Anthropic je namreč podpisal kodeks ravnanja za izvajanje 50. člena tega zakona, ki od ponudnikov zahteva strojno prepoznavno označevanje vsebin, ustvarjenih z umetno inteligenco. Tehnološko gledano vodni žig deluje s subtilnim prilagajanjem izbire besed, s čimer nastane statistični vzorec, ki je za človeškega bralca povsem neopazen. Sistem temelji na pristopu, podobnem Googlovi tehnologiji SynthID. V podjetju zagotavljajo, da vzorec ne vsebuje osebnih podatkov o uporabniku, njegovi organizaciji ali vsebini pogovorov. Oznaka se ohrani tudi pri kopiranju in lepljenju besedila, medtem ko se lahko pri obsežnejšem preoblikovanju, prevajanju ali zelo kratkih besedilih signal izgubi.

Kljub uvedbi pa lahko prisotnost vodnega žiga trenutno preveri le omejen krog uporabnikov. Orodje za zaznavanje je namreč na voljo v okviru zaprtega preizkusnega obdobja, namenjenega regulatorjem, organom pregona, medijem, raziskovalcem in drugim upravičenim organizacijam. Pri tem je potrebna določena mera previdnosti, saj zaznan vodni žig sam po sebi ne dokazuje avtorstva. Pojavi se lahko tudi takrat, ko je umetna inteligenca besedilo zgolj lektorirala ali prevedla.

Zanimivo je tudi, da ima sistem določene tehnične omejitve. Pri nekaterih modelih lahko razvijalci prek programskega vmesnika API s spreminjanjem privzetih vrednosti parametrov vplivajo na zanesljivost označevanja. Če spremenijo katerega od teh parametrov, lahko nastane besedilo, pri katerem vodnega žiga ni mogoče zanesljivo zaznati. To pomeni, da nova zaščita kljub ambicioznemu cilju še ne zagotavlja stoodstotne prepoznavnosti vseh vsebin, ustvarjenih z umetno inteligenco.