I video deepfake rappresentano una minaccia per il grande pubblico

La domanda è quante persone si sono rese conto troppo tardi che si trattava di una truffa, ma temiamo che sia un numero molto alto.

Le registrazioni deepfake esistevano anche prima dell'avvento dell'intelligenza artificiale nella forma in cui la conosciamo oggi (ChatGPT, Bard, Bing, Midjourney...). Ma con l’avvento di grandi modelli linguistici, queste registrazioni sono diventate spaventosamente realistiche. Era solo questione di tempo prima che i miscredenti utilizzassero questa tecnologia avanzata per scopi malvagi.

Hanno scelto il miglior obiettivo possibile. MrBeast è noto per i suoi stravaganti video su YouTube in cui delizia i suoi fan e i passanti con auto costose, jet privati, telefoni, case e regali simili. Anche uno scenario in cui MrBeast regala iPhone 15 quasi gratuiti non è troppo insolito. Ci hanno scommesso anche i malintenzionati. Il finto MrBeast esortava gli spettatori a cliccare su un collegamento presente nella clip, ma dietro le quinte c'era l'intento di rubare dati.

Un video deepfake di MrBeast è recentemente emerso su TikTok, dove probabilmente ha causato danni ingenti, non solo agli utenti, ma anche alla piattaforma, che ora sarà alle prese con domande su come prevenirlo in futuro.

MrBeast non è l'unica vittima delle truffe legate all'intelligenza artificiale. Anche l'immagine di Putin è stata utilizzata in modo improprio in passato per diffondere informazioni false.

Sebbene le celebrità siano obiettivi più attraenti, anche i comuni mortali sono a rischio. Anche i giornalisti della BBC Matthew Amroliwala e Sally Bundock lo hanno sperimentato in prima persona. La loro immagine è stata utilizzata per promuovere una truffa finanziaria. Nel video, il giornalista dovrebbe essere ospitato dal più ricco terrestre, Elon Musk, che dovrebbe interrogarlo sull'opportunità di investimento apparentemente più redditizia del momento. Anche Elon Musk è stato vittima in passato di video deepfake, in cui avrebbe regalato la sua ricchezza e dato consigli sulle criptovalute.

Finora Meta (ex Facebook) allegava a tali video avvertimenti su possibili informazioni false, che sono state scoperte dall'organizzazione FullFact. Quest'ultimo si è posto la missione di verificare tutte le possibili irregolarità che compaiono nelle notizie e sui social media. È intervenuto anche un rappresentante di Meta. “Non consentiamo tali contenuti sulle nostre piattaforme e li abbiamo rimossi immediatamente. Lavoriamo costantemente per migliorare i nostri sistemi e incoraggiare chiunque veda contenuti che ritiene violino le nostre norme a segnalarli utilizzando gli strumenti in-app. Poi potremo studiarlo e agire."

Anche TikTok è intervenuto, rimuovendo il video falso di MrBeast poche ore dopo la sua pubblicazione e bannando l'account che violava i loro termini di servizio. TikTok ha questo tipo di filmati "sintetici" evidenziati come contenuti vietati nella sua policy.

Il vero MrBeast, nel frattempo, ha invitato la piattaforma X (ex Twitter) e altre piattaforme a rispondere alla domanda se sono preparate all'aumento di tali truffe.

Come identificare le registrazioni deepfake?

Anche se per ora gli attacchi di phishing classici e gli attacchi ransomware rimangono le forme di attacco più comuni e anche quelle di maggior successo, è probabile che arriverà un periodo in cui i deepfake e gli attacchi di intelligenza artificiale diventeranno più comuni.

Recentemente anche Tom Hanks ha dovuto difendersi a causa dell'intelligenza artificiale. La sua immagine è stata rubata per promuovere un controverso piano dentale.

I sistemi di intelligenza artificiale diventeranno solo più avanzati. Con lo sviluppo, aumenteranno le preoccupazioni su come riconoscere tali truffe. La regola d'oro è diffidare se ti imbatti in un video, un post o un messaggio in cui qualcuno ti offre qualcosa gratuitamente, soprattutto se si tratta di un prodotto o servizio che solitamente richiede importi maggiori.

L’immagine di MrBeast svaluta un po’ questa regola. Proprio a causa dei suoi video, in cui i partecipanti competono anche per premi interessanti, il suddetto video deepfake era difficilmente riconoscibile come truffa.

Non abbiamo altra scelta che stare sempre attenti e controllare in anticipo ogni informazione. Gli utenti più attenti noteranno anche altri segnali sospetti che potrebbero indicare che si tratta di una truffa.

Nella clip di MrBeast (potete guardarla su bit.ly/DeepfakeRN), gli aggressori hanno incluso il nome di un famoso YouTuber con il segno di spunta blu a cui siamo abituati dai profili ufficiali. Se sei un utente abituale di TikTok, sai che questo tipo di posizionamento del nome non è necessario poiché tutti i video includono già il nome dell'autore del caricamento sotto il logo TikTok.

Nel caso dei giornalisti della BBC i motivi di sospetto erano più di natura grammaticale. Il conduttore pronuncia male il numero 15 e pronuncia la parola “progetto” con un'intonazione insolita. Ci sono anche alcuni piccoli errori grammaticali che potresti facilmente non notare (ad esempio, l'uso errato di "era, erano"). Man mano che le registrazioni diventano sempre più realistiche nel tempo, questi tipi di errori saranno importanti per individuare le frodi. Nella stessa clip, è molto difficile vedere che Elon Musk ha un occhio in più sopra l'occhio sinistro. Occhi, dita e dettagli simili sono spesso distorti nei filmati dell'intelligenza artificiale e per noi questo rappresenta un'opportunità per evitare il disastro.

Si sono espressi anche esperti legali che hanno opinioni contrastanti sul divieto di tali registrazioni. Se dovessimo vietare la tecnologia deepfake, danneggeremmo anche i contenuti autentici di film e serie creati con effetti speciali.

Immagine di copertina: Immagine di rawpixel.com su Freepik