Pornografía, falsificación biométrica, suplantación de identidad... los peligros de DeepFaceLive, un nuevo software 'deepfake' de código abierto que está siendo utilizado por streamers y ciberdelincuentes

Streamer

Getty Images

  • La tecnología deepfake es cada vez más peligrosamente sofisticada: varios tiktokers y streamers de plataformas como Twitch utilizan un nuevo software de esta índole para cambiar su rostro en tiempo real. 
  • Este programa se llama DeepFaceLive es de código abierto y convierte la cara en la de otra persona en cualquier plataforma de videoconferencia o streaming como Zoom o Twitch.
  • La herramienta permite que tiktokers se conviertan en personalidades famosas como Tom Cruise o Arnold Schwarzenegger. 
  • Descubre más historias en Business Insider España

La tecnología deepfake entraña numerosos peligros, desde el acoso a mujeres a través de falsos vídeos porno a la manipulación política o la proliferación de fake news, incluso a las imágenes satelitales que se emplean para acciones militares y de espionaje. 

Gracias a las técnicas de inteligencia artificial los vídeos pueden manipularse, reemplazando los rostros, cuerpos o voces, de forma que se imite a un rival electoral, se simule una escena sexual con una personalidad famosa o se cree un clon publicitario, como sucedió con el famoso anuncio deepfake de Lola Flores.

Un nuevo software deepfake ha llegado para cambiar la cara de las personas dedicadas al streaming y a la publicación de vídeos en plataformas como YouTube, Twitch o TikTok. Se llama DeepFaceLive, es de código abierto y fue creado por un famoso desarrollador online conocido como Iperov, según The Daily Dot. 

El youtuber ruso Vladislav Pedro explicó a este medio que este software tiene gran potencial para los creadores de contenido multimedia, que ya han empezado a utilizar la herramienta en sitios como Twitch. Por ejemplo, para imitar a Arnold Schwarzenegger.

Sin embargo, el creador también advirtió de que el software será aprovechado por delincuentes. 

La herramienta open source fue lanzada el mes pasado en la plataforma de alojamiento de código Github, está disponible para Windows 10 y permite a los usuarios colocar otra cara sobre la suya mientras usan programas de mensajería de video como Skype y Zoom.

Las implicaciones éticas sobrevuelan a DeepFaceLive, tal y como alerta Henry Adjer, jefe de análisis de comunicaciones e investigación de IA en la empresa de tecnología Deeptrace. 

"Muchas personas lo verán como una herramienta divertida para la transmisión en vivo de Twitch o videos absurdos de TikTok, pero mi investigación sobre deepfakes ha demostrado consistentemente que hay muchas otras que buscarán abusar de ella", destaca este experto. 

Entre sus aplicaciones podrían usarse los rostros de celebridades sin consentimiento o realizar falsificaciones biométricas, como sistemas engañosos de reconocimiento facial

Como era de esperar, DeepFaceLive también ha llamado la atención de quienes crean pornografía deepfake no consensuada. Además, usuarios de foros especializados en esta tecnología han discutido la posibilidad de aplicar la herramienta a las trabajadoras sexuales que prestan sus servicios a través de webcam para convertirse en la celebridad preferida de sus clientes.

Henry Ajder ha advertido que esta tecnología, aunque no es perfecta, representa la clara líder de los deepfakes en vivo en términos de realismo y funcionalidad.

El especialista indica que aunque se deben evitar los esfuerzos para "sofocar el potencial creativo de la tecnología", habrá que resolver muchas preguntas sobre cómo la sociedad será afectada por estas innovaciones digitales cada vez más sofisticadas y sencillas de usar. 

Otros artículos interesantes:

Apagar la cámara en las reuniones por Zoom hace que los empleados se agoten menos y se centren más en lo que se está diciendo, según un estudio

La viralización de una herramienta 'deepfake' que desnuda digitalmente a las mujeres vuelve a poner sobre la mesa el debate sobre el peligro que entraña y el papel fundamental de las tecnológicas

Cuánto ganan los trabajadores de Twitch en Estados Unidos: los sueldos de sus ingenieros de software, analistas de datos, jefes de producto y más