OpenAI uvaja neviden vodni znak za besedila ChatGPT

OpenAI je napovedal začetek uvajanja nevidnih vodnih znakov v besedilih in kodi, ki jih ustvarita orodji ChatGPT in Codex. Ukrep velja izključno za uporabnike v Evropski uniji in je neposredna posledica pravil o preglednosti v okviru Akta EU o umetni inteligenci. Za razvijalce po svetu, ki uporabljajo njihov API, bo funkcija na voljo izbirno.

Tehnologija textGrain deluje brez opaznih simbolov ali sprememb v kakovosti odgovorov. Sistem vpliva na izbiro besed in ustvarja vzorec, ki je človeškemu očesu neviden, poseben detektor pa ga lahko zlahka prepozna. Ker je znak vtkan v same besede, se prenaša tudi ob klasičnem kopiranju in lepljenju. V podjetju poudarjajo, da oznaka ne vsebuje osebnih podatkov in ne omogoča identifikacije posameznega uporabnika.

Kljub tehničnemu napredku pa ostaja precej prostora za dvom o dejanski učinkovitosti takšnega nadzora. Testi podjetja OpenAI kažejo, da je vodni znak precej občutljiv na posege. Če v besedilu zamenjamo zgolj desetino besed s sopomenkami, zanesljivost zaznavanja pade z 90 odstotkov na približno 60 odstotkov. Prav tako so do prepoznave manj odzivni kratki odstavki, matematični izračuni in prevedena besedila.

Dostop do detektorja bo sprva omejen le na odobrene raziskovalce in strokovne organizacije. Pri OpenAI ob tem opozarjajo, da odsotnost vodnega znaka še ne dokazuje avtorstva človeka, saj je besedilo lahko močno urejeno ali pa ustvarjeno z drugim orodjem. Ukrep sledi podobni potezi podjetja Anthropic, ki je vodne znake za model Claude že uvedlo na globalni ravni.