Kako enostavno je z umetno inteligenco ustvariti lažne novice?

Preizkus, ki ga je izvedla raziskovalna ekipa CORRECTIV, je postavil štiri vodilne klepetalnike z umetno inteligenco pred izzivom, ki bi moral biti strogo prepovedan. Šlo je za ustvarjanje lažnih novičarskih objav z izmišljenimi trditvami pod krinko uveljavljenih medijev. Preizkusili so jih na osmih izmišljenih zgodbah, in sicer od odstopa nemškega kanclerja do volilnih prevar. Tri orodja od štirih so zahtevam ugodila. Gre za aplikacije, ki po podatkih nemškega združenja Bitkom veljajo za najbolj uporabljene v Nemčiji, pri čemer sam ChatGPT dosega kar 71-% delež uporabnikov.

Najslabše se je odrezal prav ChatGPT. Večino ponaredkov je ustvaril takoj, pri čemer so bili njegovi izdelki vizualno najbolj prepričljivi. V enem od poskusov je orodje celo samostojno rekonstruiralo celotno zaslonsko sliko z namizjem in odprtim brskalnikom ter ob tem zapisalo, da to daje še bolj realističen vtis. Posebej nenavaden pa je bil primer, ko je ChatGPT izrecno opozoril, da ne sme ustvarjati grafik z logotipi pravih medijskih hiš in nepreverjenimi trditvami, a je sliko kljub svojemu opozorilu vseeno generiral. Varnostne pregrade so sicer odreagirale, vendar zlorabe niso preprečile. Takšna ranljivost ni povsem nova, saj so strokovnjaki že v preteklosti pokazali, kako zlahka je mogoče zaobiti zaščitne filtre z preprostimi besednimi zvijačami ali slovničnimi napakami.

Google Gemini je zahteve izpolnjeval še bolj neposredno kot ChatGPT in je ponaredil celo grafike v slogu New York Timesa ter BBC-ja, čeprav z opaznimi napakami v besedilu. Microsoftov Copilot je generiral vsebine v slogu nemškega programa Tagesschau, vendar je na slike vsaj dodal viden napis “Ustvarjeno z AI”. Edino Meta AI se je v skoraj vseh primerih odločno uprla in zavrnila izpis specifičnih lažnih trditev.

Zanimiva ugotovitev preizkusa je tudi razlika med regijami. ChatGPT je brez težav posnemal nemške medije, kot so Tagesschau, Bild in CORRECTIV, medtem ko je pri ameriških in britanskih znamkah ustvarjanje zavrnil. Pri OpenAI niso pojasnili, zakaj veljajo različna pravila glede na poreklo medija, ampak so le navedli, da stalno izboljšujejo varnost in da je zavajanje v nasprotju z njihovimi pravili.

Izdelava in širjenje takšnih grafik nista le etično sporni, ampak imata lahko tudi resne pravne posledice. Pravni strokovnjaki opozarjajo, da gre pri ponarejenih medijskih objavah za ponarejanje dokumentov, glede na vsebino pa lahko sledijo tožbe zaradi razžalitve, obrekovanja ali širjenja sovražnega govora. Medijske hiše lahko zahtevajo odškodnino in prepoved uporabe svojih zaščitenih blagovnih znamk. Težava pa je že dosegla družbena omrežja, saj so se na platformah TikTok, X, Instagram in Facebook že pojavile lažne objave, ustvarjene s ChatGPT, ki so posnemale podobo znanih TV poročil.