Los peores temores de los expertos se confirman: una web ya permite crear escenas pornográficas de cualquier persona con tecnología 'deepfake'

Imagen de una presentadora creada con tecnología 'deepfake'.
Imagen de una presentadora creada con tecnología 'deepfake'.
REUTERS TV
  • Una web permite crear escenas pornográficas de cualquiera utilizando la misma tecnología 'deepfake' que se ha empleado para difundir videos falsos de famosos.
  • Para ello, solo es necesario subir una foto. Aunque la web invita a hacerlo con uno mismo a modo de broma, nada impide hacerlo con una imagen de otra persona.
  • Los expertos advierten de que esta práctica puede convertirse en fuente de acoso contra mujeres y contra la comunidad LGTBI.
  • Descubre más historias en Business Insider España.

Muchos expertos llevaban tiempo advirtiendo de que algo así iba a suceder. 

Por un módico precio, una web ha puesto disposición de sus usuarios el poder convertir a cualquiera en protagonista de una escena porno.

Para ello, basta con tener conexión a internet, subir una foto y pulsar un botón. 

Lo que sucede después, advierten los expertos, da al usuario material para bromear sobre sí mismo, por ejemplo, pero también para dar rienda suelta a sus fantasías.

También, claro, para atentar contra la dignidad de quien quiera.

Esto es debido a que, aunque el lenguaje del sitio anima a los usuarios a subir su propia cara, nada impide subir imágenes ajenas.

Los comentarios en los foros sugieren, de hecho, que muchos usuarios ya lo hacen regularmente.

La voz de alarma la ha dado el investigador en tecnología deepfake Henry Ajder, que fue quien detectó esta web y la denunció al portal MIT Technology Review.

Este medio ha preferido por no dar el nombre de la web ni dar pistas que permitan localizarla para evitar darles tráfico. Business Insider ha optado por lo mismo en este artículo.

La culminación de una tecnología que hizo popular (sin querer) Tom Cruise

Desde hace años, Chris Ume, un experto belga en creación de efectos especiales, deleita a las redes sociales con sus deepfakes.

En ellos, se puede ver al popular actor Tom Cruise en todo tipo de contextos. 

Aunque en realidad no se trata de él, sino de una imagen falseada lograda mediante inteligencia artificial, ello no impide que los videos sean compartidos sin parar.

Lo son tanto por parte de quienes conocen perfectamente que se trata de un video falso como de quienes nunca han oído hablar de lo que es la tecnología deepfake.

Incluso predecir nuevas epidemias: los potenciales usos del gigantesco almacén de datos sanitarios que quiere España, y cuya construcción ya tiene pretendientes

Esta, como en el caso de Cruise, permite crear videos falsos insertando la cara de una persona en la de otra mientras la IA se encarga de conseguir que las facciones encajen.

El objetivo es que la suplantación de identidad sea lo más realista posible.

La popularidad de estos videos ha crecido en los últimos años a lomos de recreaciones que implicaron, entre otros muchos, a personajes como el expresidente de EEUU Barack Obama.

A medida que esto sucedía, una buena cantidad de expertos señalaron los peligros de utilizar los últimos avances en tecnología para falsear las identidades, por muy reconocidas que estas fueran.

Aunque a veces lo hicieron de un modo más o menos velado, en realidad hacia donde apuntaban muchas de estas advertencias era, precisamente, hacia donde se ha dirigido la web detectada por Ajder.

Una startup cofundada por el creador de los 'deepfakes' virales de Tom Cruise en TikTok se ha comprometido a establecer normas éticas al vender su tecnología a empresas

Al fin y al cabo, si resulta divertido poner a Tom Cruise a hacer y decir cualquier cosa, ¿qué impide hacer lo mismo con cualquier otra persona?

Al hilo de estas sospechas, hace unos meses el propio Ume se apresuró a defender el invento que tantos beneficios le está dando.

"No se puede hacer simplemente pulsando un botón", dijo a The Vergue, asegurando que cada clip le lleva semanas de trabajo antes de conseguir que no se vea ningún fallo.

Pero lo cierto es que los deepfakes han tenido siempre usos relacionados con la pornografía. Desde sus comienzos, antes incluso de que el gran público lo descubriera con los falsos Tom Cruise.

Sin ir más lejos, el creador original de Reddit que popularizó la tecnología, recuerda MIT Techonology,  intercambió los rostros de celebridades femeninas en vídeos porno. 

Ya en un informe de 2019 al que se puede acceder en su web, Sensity AI, empresa especializada en verificación de identidad por IA y sistemas antifraude, dedicaba un epígrafe completo al tema.

En él, reveló que 8 de las 10 webs de pornografía más vistas alojaban ya por aquel entonces videos creados con tecnología deepfake.

El fin de las contraseñas, la IA o el internet de las cosas: así es la vorágine de tendencias que está acelerando la transformación de la ciberseguridad

Estos, sin embargo, todavía no eran muchos. Esto daba margen para que una legión de creadores de deepfakes batallaran a partir de entonces por copar el mercado de la pornografía deepfake.

"El ecosistema de pornografía deepfake se apoya casi por completo en sitios web dedicados a ello en exclusiva", decía el estudio.

"Estos albergan 13.254 del total de vídeos. Por el contrario, los sitios web de pornografía convencional solo albergan 802 vídeos. El número sugiere que la pornografía deepfake podría representar una creciente oportunidad de negocio".

Un negocio que llega tras varios intentos

A medida que la tecnología ha ido avanzando, también han surgido numerosas herramientas para desnudar a personas sin su permiso.

Muchos de estos servicios se han visto obligados a desaparecer, pero el código sigue existiendo y, de cuando en cuando, resurge de entre las profundidades de internet.

Estos siguen la estela de aplicaciones de intercambio de rostros con una sola foto como ZAO o ReFace, que colocan a los usuarios en escenas seleccionadas de películas convencionales o vídeos pop. 

Pero ahora se trata de algo más.

Un software de selección automático está rechazando por error a millones de candidatos a puestos de trabajo viables

"Está hecha a la medida para crear imágenes sin el consentimiento del protagonista", dice sobre la web a MIT Technology Adam Dodge, fundador de EndTAB, una organización sin ánimo de lucro que educa sobre el abuso de la tecnología. 

El funcionamiento de la web no puede ser más sencillo. Un usuario sube una foto de una cara y a continuación el sitio abre una biblioteca de vídeos porno. 

La gran mayoría implican a mujeres, aunque algunos son porno gay. El usuario puede entonces seleccionar cualquier vídeo para generar una vista previa. 

Si el resultado le satisface, puede proceder entonces a pagar por la descarga.

Los resultados, describe MIT Techology, son coherentes con los vaticinios de Ume cuando hablaba de lo difícil que resulta hacer un vídeo deepfake que de verdad carezca de errores.

Los defensores de que las IA pueden ser inventoras sufren un nuevo revés en EEUU: "¿Qué pasará cuando las máquinas tengan conciencia?"

El problema es que esto no importa. Aunque, en efecto, la mayoría de las caras tienen brillos extraños y se distorsionan con los cambios de ángulo, para muchos basta con esto. 

Especialmente, advierten los expertos, cuando se trata de acosar a alguien o de manchar su reputación ante personas que muchas veces ni saben lo que es un deepfake.

"Este tipo de abuso, en el que la gente tergiversa tu identidad, tu nombre y tu reputación y los altera de forma tan violenta, te destroza por completo", dice a MIT Technology Noelle Martin, una activista australiana que ha sido objeto de una campaña de porno deepfake

"En cada entrevista de trabajo, puede salir a relucir esto. A día de hoy, no he conseguido que se retire ninguna de las imágenes. Para siempre, eso estará ahí fuera. Haga lo que haga", afirma Martin.

"Está empeorando, no mejorando", explica Dodge. "Cada vez más mujeres son objeto de este tipo de ataques".

Los problemas no acaban aquí. La posibilidad de crear porno gay supone una amenaza adicional para los hombres y mujeres en países donde la homosexualidad está penada, advierte Ajder.

La Asociación Internacional de Lesbianas, Gays, Bisexuales, Transexuales e Intersexuales cifra en 69 los Estados miembros de la ONU continúan penalizando los actos sexuales consensuados entre personas adultas del mismo sexo.

Otros artículos interesantes:

El FBI alerta del crecimiento de los ‘deepfakes’ en los próximos meses y explica cómo detectarlos fácilmente

Un impresionante 'deepfake' de Jeff Bezos y Elon Musk en 'Star Trek' muestra lo lejos que ha llegado la tecnología

TikTok se llena de 'deepfakes' y la aplicación no ha tomado aún medidas al respecto

Te recomendamos

Y además