La viralización de una herramienta 'deepfake' que desnuda digitalmente a las mujeres vuelve a poner sobre la mesa el debate sobre el peligro que entraña y el papel fundamental de las tecnológicas

Deep fake

Getty Images

  • Una herramienta deepfake basada en desnudar de forma digital las fotos de mujeres vestidas acumulaba más de 38 millones de visitas desde principios de año, hasta su desaparición. 
  • La plataforma vuelve a poner sobre la mesa el debate relacionado con el peligro que entraña la tecnología deepfake enfocada en fines maliciosos, donde las tecnológicas tienen un papel fundamental.
  • Descubre más historias en Business Insider España. 

Una herramienta deepfake (aquellas que generan manipulaciones a través del deep learning) basada en desnudar de forma digital las fotos de personas vestidas subidas a su plataforma acumula más de 38 millones de visitas desde principios de año, tal y como recoge HuffPost

La plataforma que, según explica el mismo medio, prometía en su sitio web "hacer realidad los sueños de los hombres" mediante el falso desnudo de una foto de una mujer a través de medios digitales, se había viralizado. Sin embargo, gracias a la denuncia de la fuente mencionada a su proveedor de alojamiento web original, ha terminado desapareciendo. 

No obstante, el medio recuerda que estos sitios suelen variar de un sitio a otro cambiando de host después de que les cancelen sus proveedores. 

La herramienta solo estaba centrada en las mujeres, ya que, según las pruebas realizadas por HuffPost, si se cargaba la foto de un hombre, tan solo se le añadían senos y vagina. De hecho, la web se jactaba de haber desarrollado sus propios algoritmos de traducción de imágenes mediante el deep learning para "desnudar cualquier mujer en el mundo, independientemente de la raza o la nacionalidad".

La plataforma vuelve a poner sobre la mesa el debate relacionado con el riesgo que entraña la tecnología deepfake enfocada en fines maliciosos. Los expertos señalan que, a medida que avanza, es más peligrosa debido a su progresiva accesibilidad y a su perfeccionamiento, que da como resultado imágenes más creíbles. 

Los 'deepfakes' amenazan la veracidad de la información en Internet: algunos consejos y herramientas recomendadas por 2 expertos en ciberseguridad para que la IA no te engañe

No es la primera vez que salta a las noticias una herramienta de este estilo, ya que en 2009 también se viralizó una aplicación con la misma finalidad y han sido miles las mujeres que han denunciado que han sido digitalizadas y desnudadas o introducidas contra su voluntad en la pornografía. 

Los expertos señalan que la mayoría de las personas que utilizan estas plataformas lo hacen con personas que conocen, especialmente frente a mujeres y niñas, que se quedan sin recursos legales frente a lo que supone este hecho en su vida.

Twitter, Facebook, Reddit o Telegram tienen un papel crucial en la difusión de estas imágenes al prohibir su URL en sus plataformas por completo. Según la misma fuente, este paso produciría resultados inmediatos, pero hasta ahora solo la fundada por Mark Zuckerberg lo ha hecho. 

Por su parte, Reddit y Twitter han explicado que sus políticas prohíben todo tipo de pornografía involuntaria y que están en proceso de eliminar cualquier contenido infractor, pero los enlaces aún se pueden encontrar en ellas. Google ha precisado que solo elimina páginas cuando lo dicta la ley, pero aseguran que tienen un proceso por el cual las víctimas pueden solicitar la supresión.

Sin embargo, los expertos denuncian la inmunidad de las plataformas tecnológicas por el contenido generado por los usuarios. "Es más fácil eliminar material protegido por derechos de autor, como exige la ley, que desnudos deepfake", apuntan. 

Otros artículos interesantes:

El FBI alerta del crecimiento de los ‘deepfakes’ en los próximos meses y explica cómo detectarlos fácilmente

El 'deepfake' de Tom Cruise que ha confundido a TikTok es el último ejemplo del gran peligro de los vídeos falsos en Internet

Facebook destinará más de 10 millones de dólares a luchar contra los deepfakes: contratará actores para ayudar a los investigadores