Los vídeos deepfake son una amenaza para el público en general

La pregunta es cuántas personas se dieron cuenta demasiado tarde de que se trataba de una estafa, pero tememos que sea un número muy elevado.

Las grabaciones deepfake existían incluso antes de la llegada de la inteligencia artificial tal como la conocemos hoy (ChatGPT, Bard, Bing, Midjourney...). Pero con la llegada de los grandes modelos lingüísticos, estas grabaciones se han vuelto terriblemente realistas. Era sólo cuestión de tiempo antes de que los malhechores utilizaran esta tecnología avanzada con fines malvados.

Eligieron el mejor objetivo posible. MrBeast es conocido por sus extravagantes vídeos en YouTube, en los que deleita a sus fans y transeúntes con coches caros, jets privados, teléfonos, casas y regalos similares. Un escenario en el que MrBeast regalaría iPhone 15 casi gratis tampoco es demasiado inusual. Incluso los malintencionados apuestan por ello. El falso MrBeast instó a los espectadores a hacer clic en un enlace del vídeo, pero detrás de escena había la intención de robar datos.

Recientemente apareció un video deepfake de MrBeast en TikTok, donde probablemente causó un daño masivo, no solo a los usuarios, sino también a la plataforma, que ahora se enfrentará a preguntas sobre cómo prevenir esto en el futuro.

MrBeast no es la única víctima de las estafas de IA. La imagen de Putin también ha sido utilizada indebidamente en el pasado para difundir información falsa.

Aunque las celebridades son objetivos más atractivos, los mortales comunes también están en riesgo. Los periodistas de la BBC Matthew Amroliwala y Sally Bundock también lo han experimentado de primera mano. Su imagen se utilizó para promover una estafa financiera. En el vídeo, el periodista debería ser recibido por el terrícola más rico, Elon Musk, quien debería interrogarlo sobre la oportunidad de inversión supuestamente más rentable en este momento. Elon Musk también ha sido víctima de vídeos deepfake en el pasado, en los que supuestamente regalaba su riqueza y daba consejos sobre criptomonedas.

Hasta ahora, Meta (antes Facebook) adjuntaba advertencias sobre posibles informaciones falsas a dichos vídeos, que fueron descubiertos por la organización FullFact. Este último se ha fijado la misión de comprobar todas las posibles irregularidades que aparecen en las noticias y en las redes sociales. También habló un representante del Meta. “No permitimos dicho contenido en nuestras plataformas y lo eliminamos de inmediato. Trabajamos constantemente para mejorar nuestros sistemas y alentar a cualquier persona que vea contenido que crea que viola nuestras políticas a denunciarlo utilizando las herramientas de la aplicación. Entonces podremos estudiarlo y tomar medidas".

TikTok también intervino, eliminando el video falso de MrBeast horas después de su publicación y prohibiendo la cuenta que violaba sus términos de servicio. TikTok tiene este tipo de metraje "sintético" resaltado como contenido prohibido en su política.

Mientras tanto, el verdadero MrBeast pidió a la plataforma X (antes Twitter) y a otras plataformas que respondieran a la pregunta de si están preparadas para el aumento de este tipo de estafas.

¿Cómo identificar grabaciones deepfake?

Aunque por ahora los ataques clásicos de phishing y ransomware siguen siendo las formas de ataque más comunes y también las más exitosas, es probable que llegue un período en el que los deepfakes y los ataques de inteligencia artificial se vuelvan más comunes.

Recientemente, incluso Tom Hanks tuvo que defenderse debido a la inteligencia artificial. Su imagen fue robada para promover un controvertido plan dental.

Los sistemas de inteligencia artificial serán cada vez más avanzados. Con el desarrollo, aumentarán las preocupaciones sobre cómo reconocer este tipo de estafas. La regla de oro es desconfiar si te encuentras con un vídeo, publicación o mensaje en el que alguien te ofrece algo gratis, especialmente si se trata de un producto o servicio que suele requerir cantidades mayores.

La imagen de MrBeast devalúa un poco esta regla. Precisamente por sus vídeos, en los que los participantes también compiten por atractivos premios, el mencionado vídeo deepfake era difícil de reconocer como una estafa.

No nos queda más remedio que tener siempre cuidado y comprobar cada dato de antemano. Los usuarios más observadores también notarán otros signos sospechosos que pueden indicar que se trata de una estafa.

En el clip de MrBeast (puedes verlo en bit.ly/DeepfakeRN), los atacantes incluyeron el nombre de un famoso YouTuber con la marca azul a la que estamos acostumbrados en los perfiles oficiales. Si eres un usuario frecuente de TikTok, sabes que este tipo de ubicación del nombre no es necesaria ya que todos los videos ya incluyen el nombre de quien los subió debajo del logotipo de TikTok.

En el caso de los periodistas de la BBC, los motivos de sospecha eran más de naturaleza gramatical. El presentador pronuncia mal el número 15 y pronuncia la palabra "proyecto" con una entonación inusual. También hay algunos errores gramaticales menores, que fácilmente puedes pasar por alto (por ejemplo, el uso incorrecto de "was, were"). A medida que las grabaciones se vuelvan cada vez más realistas con el tiempo, este tipo de errores serán importantes para detectar fraudes. En el mismo clip, es muy difícil ver que Elon Musk tiene un ojo extra encima de su ojo izquierdo. Los ojos, los dedos y detalles similares a menudo aparecen distorsionados en las tomas de IA, pero para nosotros esto representa una oportunidad para evitar el desastre.

También se han manifestado los expertos jurídicos que tienen opiniones divididas sobre la prohibición de este tipo de grabaciones. Si prohibiésemos la tecnología deepfake, también perjudicaríamos el contenido genuino de películas y series creadas con efectos especiales.

Imagen de portada: Imagen de rawpixel.com en Freepik