Los 'deepfakes' amenazan la veracidad de la información en Internet: algunos consejos y herramientas recomendadas por 2 expertos en ciberseguridad para que la IA no te engañe

A la izquierda, Luke Skywalker creado por CGI, en 'The Mandalorian'; a la derecha, el 'deepfake' de un usuario que hace más real el rostro del jedi.
A la izquierda, Luke Skywalker creado por CGI, en 'The Mandalorian'; a la derecha, el 'deepfake' de un usuario que hace más real el rostro del jedi.

Shamook

  • Con el mejoramiento de la Inteligencia Artificial, han proliferado los deepfakes o vídeos generados sintéticamente, los cuales afectan mayoritariamente a las mujeres.
  • Con el objetivo de conocer cómo se pueden detectar estos deepfakes, Miguel Hernández Boza, investigador de seguridad, y José Ignacio Escribano Pablos, investigador en ciberseguridad y aprendizaje automático, de BBVA Next Technologies, han ofrecido a Business Insider España algunos consejos para no ser engañados.
  • Descubre más historias en Business Insider España.

Probablemente, los fans de la reconocida saga de Star Wars recuerden cómo en la película Rogue One aparecía una princesa Leia –Carrie Fisher– totalmente rejuvenecida o, más tarde, un Luke Skywalker –Mark Hamill– por el que los años no habían pasado, en la serie The Mandalorian.

Ambos personajes eran deepfakes, aunque los seguidores de las películas de George Lucas ya lo sabían, por la mala calidad de las CGI, es decir, las imágenes generadas por computadora que crearon a ambos personajes. Incluso algunos seguidores, como Shamook, mejoraron dichos vídeos.

Sin embargo, en Internet es más complicado reconocer si un vídeo ha sido manipulado a través de Inteligencia Artificial, sobre todo si detrás hay una herramienta que puede imitar casi a la perfección rostros humanos. Aun así, la tecnología siempre es mejorable y estas inteligencias artificiales pueden crear ciertos detalles que las delatan.

Para conocer un poco más a fondo este mundo, fascinante a la par que aterrador, Miguel Hernández Boza, investigador de seguridad, y José Ignacio Escribano Pablos, investigador en ciberseguridad y aprendizaje automático, ambos de BBVA Next Technologies, han ofrecido a Business Insider España algunos consejos para detectar estos.

Una herramienta peligrosa que afecta, principalmente, a mujeres

Según un estudio de Deeptrace, publicado un 2019, en la web existen alrededor de 14.678 deepfakes identificados, de los cuales el 96% tienen que ver con la pornografía y afectan, mayoritariamente, a las mujeres

Hernández y Escribano han explicado que este hecho se debe a la aparición de herramientas creadas para elaborar este tipo de contenido falso, muchas de las cuales están al alcance de todos con un solo clic.

"En contraposición al escenario del cine, donde eran necesarios conocimientos de edición y programas caros, la creación de deepfakes no requiere de conocimientos técnicos ni de herramientas específicas, sino que basta con descargarlas de internet y dejarlas funcionar", han asegurado.

Además, cabe señalar que la pornografía no es el único lugar donde proliferan los deepfakes, ya que su uso con celebridades y reconocidos políticos también está a la orden del día, como el caso de los deepfakes de Tom Cruise o de Obama y Donald Trump.

Según los especialistas en ciberseguridad, con este tipo de personajes famosos "se dispone de más información pública con la que entrenar estos modelos de Inteligencia Artificial, que permiten generar deepfakes".

Aun así, también han mencionado un buen ejemplo del uso de este tipo de contenido falso, como la campaña de Cruzcampo en la que apareció la carismática Lola Flores, hablando sobre lo maravilloso que es el acento andaluz. En este vídeo, puedes ver cómo crearon su imagen con la ayuda de la IA:

Desgraciadamente, no todos los creadores de deepfakes tienen la buena voluntad de Cruzcampo, cuyo vídeo falso era en realidad un homenaje a la reconocida artista española. Por este motivo, ambos expertos han ofrecido algunas técnicas para reconocer si un vídeo ha sido sintetizado artificialmente.

Cómo saber si nos encontramos ante un deepfake

La proliferación de este tipo de vídeos no solo atenta contra la veracidad de la información en Internet, sino también implica cierto reparo en la confianza hacia todo lo que se publica en la red por parte de los consumidores.

En este sentido, "el mejor consejo que se puede dar frente a este tipo de contenido es contrastar toda la información que nos llega, ya que es la mejor forma para detectar este tipo de contenido", han explicado los expertos en ciberseguridad.

Al igual que sucede con las noticias, los usuarios deben verificar que la procedencia de la información es fiable y, lo más importante, "esperar antes de tomar una posición o decisión sobre un contenido que hemos visto, como puede ser una noticia o un tuit, y comprobar que realmente ha sucedido".

Voces clonadas y máquinas que conversan: así son los desafíos éticos y legales de los robots que confundiremos con seres humanos por teléfono

En cuanto a la verificación de imágenes, los investigadores han añadido que "cada vez es más complicado detectar, a través de los sentidos, si es un engaño o no", aunque aparecen detalles que deberían hacer saltar las alarmas, como una oreja por encima del pelo, pendientes distintos, dientes no alineados con el centro del rostro, pérdida de calidad en los cambios de plano o movimientos bruscos de la cara.

Retrato de una niña, generado por Inteligencia Artificial.
Retrato de una niña, generado por Inteligencia Artificial.

This Person Does Not Exist

Por otro lado, hay que prestar especial atención a las voces sintéticas, las cuales "contienen ciertos tonos robóticos fácilmente reconocibles". 

Por último, los expertos han aconsejado utilizar el "sentido común" y han recomendado que, si alguien es víctima de un deepfake, acuda inmediatamente al Grupo de Delitos Telemáticos (GDT), de la Guardia Civil. Aun así, es difícil que se llegue a este punto, a no ser que la víctima sea una celebridad. Además, esto se puede evitar si se utilizan algunas herramientas digitales, cuyo objetivo es la detección de este tipo de vídeos.

Soluciones digitales para frenar los deepfakes

Como en muchos otros campos, en este la solución es el problema, es decir, el uso de la IA puede frenar el avance de los deepfakes en la web, los cuales irónicamente, son generados por la misma IA.

Así, diferentes organizaciones ofrecen herramientas digitales a los usuarios para que sean capaces de detectar deepfakes.

En primer lugar, aparece Faceforensics++, una herramienta que cuenta con una "gran precisión", según los expertos en ciberseguridad. Dicha tecnología está disponible en Internet para todos los usuarios.

En segundo lugar, desde BBVA Next Technologies, también han desarrollado una herramienta basada en Faceforensics++, con el objetivo de "comprobar fácilmente si un vídeo ha sido manipulado, sin necesidad de tener conocimientos técnicos".

'Deepfake' del actor Tom Cruise que se hizo popular en TikTok.
'Deepfake' del actor Tom Cruise que se hizo popular en TikTok.

TikTok

A estas 2 herramientas se suman otros servicios, como Sensity, que permite al usuario subir un vídeo, el cual será verificado por la propia herramienta, para saber si verdaderamente es un deepfake. A pesar de la importancia de la web, en el caso del deepfake de Tom Cruise, según ha podido comprobar Business Insider, lo ha reconocido como verdadero, por lo que conviene dudar de dicho análisis u ofrecer archivos complementarios que faciliten el trabajo de la IA.

Además, la Agencia de Proyectos de Investigación Avanzados de Defensa (DARPA), de Estados Unidos, ha desarrollado su propia solución a gran escala, a la cual han bautizado como Medifor, la cual estará encargada de monitorizar todo el contenido de Internet para identificar estos vídeos falsos.

Con todo ello, el camino para crear información veraz en la red pasa por el mejoramiento de la IA para detectar contenido falso, ya sea con el objetivo de desprestigiar a un personaje público o hacer un uso poco ético de este tipo de tecnologías. 

Otros artículos interesantes:

Facebook veta los 'deepfakes' y los vídeos manipulados

Inteligencia artificial para combatir noticias falsas y deepfakes: dos estudiantes consiguen una beca en Telefónica tras superar un reto de la teleco

Una youtuber universitaria relata cuánto dinero gana con sus 6.800 suscriptores: cuál es su estrategia para elaborar los vídeos y tener éxito