Pornografía, falsificación biométrica, suplantación de identidad... los peligros de DeepFaceLive, un nuevo software 'deepfake' de código abierto que está siendo utilizado por streamers y ciberdelincuentes

La tecnología deepfake entraña numerosos peligros, desde el acoso a mujeres a través de falsos vídeos porno a la manipulación política o la proliferación de fake news, incluso a las imágenes satelitales que se emplean para acciones militares y de espionaje. 

Gracias a las técnicas de inteligencia artificial los vídeos pueden manipularse, reemplazando los rostros, cuerpos o voces, de forma que se imite a un rival electoral, se simule una escena sexual con una personalidad famosa o se cree un clon publicitario, como sucedió con el famoso anuncio deepfake de Lola Flores.

Un nuevo software deepfake ha llegado para cambiar la cara de las personas dedicadas al streaming y a la publicación de vídeos en plataformas como YouTube, Twitch o TikTok. Se llamaDeepFaceLive, es de código abierto y fue creado por un famoso desarrollador online conocido como Iperov,segúnThe Daily Dot. 

El youtuber ruso Vladislav Pedro explicó a este medio que este software tiene gran potencial para los creadores de contenido multimedia, que ya han empezado a utilizar la herramienta en sitios como Twitch. Por ejemplo, para imitar a Arnold Schwarzenegger.

Sin embargo, el creador también advirtió de que el software será aprovechado por delincuentes. 

La herramienta open source fue lanzada el mes pasado en la plataforma de alojamiento de código Github, está disponible para Windows 10 y permite a los usuarios colocar otra cara sobre la suya mientras usan programas de mensajería de video como Skype y Zoom.

Las implicaciones éticas sobrevuelan a DeepFaceLive,tal y como alerta Henry Adjer, jefe de análisis de comunicaciones e investigación de IA en la empresa de tecnología Deeptrace. 

"Muchas personas lo verán como una herramienta divertida para la transmisión en vivo de Twitch o videos absurdos de TikTok, pero mi investigación sobre deepfakes ha demostrado consistentemente que hay muchas otras que buscarán abusar de ella", destaca este experto. 

Entre sus aplicaciones podrían usarse los rostros de celebridades sin consentimiento o realizar falsificaciones biométricas, como sistemas engañosos de reconocimiento facial. 

Como era de esperar, DeepFaceLive también ha llamado la atención de quienes crean pornografía deepfake no consensuada. Además, usuarios de foros especializados en esta tecnología han discutido la posibilidad de aplicar la herramienta a las trabajadoras sexuales que prestan sus servicios a través de webcam para convertirse en la celebridad preferida de sus clientes.

Henry Ajder ha advertido que esta tecnología, aunque no es perfecta, representa la clara líder de los deepfakes en vivo en términos de realismo y funcionalidad.

El especialista indica que aunquese deben evitar los esfuerzos para "sofocar el potencial creativo de la tecnología", habrá que resolver muchas preguntas sobre cómo la sociedad será afectada por estas innovaciones digitales cada vez más sofisticadas y sencillas de usar.