Anthropic uvaja nevidne vodne žige v besedilih modela umetne inteligence Claude

Podjetje Anthropic je začelo v besedila, ki jih generirajo njihovi najnovejši modeli umetne inteligence Claude, vgrajevati posebne strojno berljive »vodne« žige. Ta odločitev je neposredna posledica novih zahtev glede preglednosti, ki jih določa 50. člen Akta o umetni inteligenci Evropske unije. Podjetje je namreč uradno podpisalo Kodeks ravnanja EU za vsebine, ustvarjene z umetno inteligenco. Uvedene spremembe pa bodo veljale za uporabnike po vsemu svetu in ne le na območju Evropske unije.

Sistem deluje na dveh ločenih ravneh, in sicer glede na vrsto izhodnih podatkov. Pri običajnemu besedilu podjetje uporablja nevidne vodne žige, ki med običajnim branjem niso opazni. Oznaka ostane vgrajena v vsebino tudi med kopiranjem in lepljenjem, razvijalci pa pričakujejo, da bodo nekateri znaki obstali celo naknadno urejanje. Ker je ta funkcija vgrajena neposredno na ravni modela, se bo uporabljala skozi vse izdelke podjetja, vključno z vmesnikom API, orodji Claude Code, Claude Cowork in Claude Tag, pa tudi pri oblačnih ponudnikih, kot so AWS, Google Cloud in Microsoft Foundry. Starejši modeli te funkcije ne bodo prejeli takoj, temveč jo bodo prejeli postopoma.

Za datoteke, kot so slike, pa podjetje uporablja standard C2PA, ki vključuje podpisane metapodatke o izvoru vsebine. Ti podatki jasno prikazujejo, da je datoteko obdelal Claude, in zaznajo morebitne naknadne spremembe. Medtem ko se besedilni vodni žig prenese ob kopiranju, se metapodatki pri datotekah lahko hitro izgubijo ob spremembi formata, zajemu slike zaslona ali ponovnemu shranjevanju.

Prisotnost oznake seveda še ne pomeni, da je celotno besedilo ustvarila umetna inteligenca, saj ljudje modele pogosto uporabljajo le za preverjanje pravopisa, prevajanje ali krajšanje lastnih besedil. Izjemno kratka besedila ali močno predelani odstavki pa po drugi strani lahko vodni žig seveda povsem uničijo, zaradi česar vsebina ostane neoznačena. Podjetje Anthropic obljublja objavo podrobnejše tehnične dokumentacije in orodij za preverjanje oznak v prihodnjih mesecih.