La peor cara de las imágenes generadas por IA: los deepfakes pornográficos de Taylor Swift inundan las redes sociales

Al igual que ha ocurrido con los textos en el caso de herramientas como ChatGPT, las imágenes generadas por inteligencia artificial a través de programas como DALL·E o Midjourney han despertado un interés más que considerable en internet. 

Esta tecnología ha evolucionado muy rápidamente en apenas unos meses, consiguiendo que sea especialmente complicado discernir entre una imagen real y una imagen generada por una IA. Esto ha llevado a algunos expertos a alzar la voz de alarma frente a posibles estafas de contenido pornográfico generado por inteligencia artificial. 

Sin embargo, uno de los principales riesgos que entrañan estas herramientas —tal y como han demostrado casos como el de Almendralejo, en Extremadura— es la posible utilización de las mismas para la generación de imágenes sexuales no consentidas. 

En ese sentido, en octubre se publicó la noticia de que, solo en el 2023, se iban a subir más deepfakes pornográficos que en todos los años anteriores juntos. Además, una asociación del Reino Unido publicó un informe en el que alertaba de que los deepfakes de abusos sexuales a menores creados por IA amenazaban con "saturar internet" en caso de que no se actuase para luchar contra ellos.

Las advertencias de los expertos han empezado a cumplirse con casos como el de Taylor Swift, una de las estrellas del pop más reconocidas a nivel internacional. 

Sumar propone una ley anti deepfakes y crear dos nuevos órganos que ayuden a regular la IA en España

Tal y como informan medios como Vice, en las últimas horas han aparecido en redes sociales desnudos falsos de la cantante generados por inteligencia artificial. Al parecer, las imágenes se han difundido a través de plataformas como X, la red social anteriormente conocida como Twitter, después de haber sido publicadas en una web de desnudos de famosos que colocó su marca de agua en cada imagen. 

La cuenta de X que publicó inicialmente los deepfakes de Swift ha sido suspendida, según publica el medio de comunicación estadounidense, pero las imágenes siguen estando disponibles a través de una búsqueda rápida en la red social, al igual que varias aplicaciones de "desnudificación", que permiten a los usuarios desnudar virtualmente a las mujeres utilizando IA generativa. 

Reddit también ha estado eliminando publicaciones y aplicando restricciones a los usuarios que han compartido estas imágenes, según ha indicado a Vice un portavoz de esta plataforma de foros, que utiliza una combinación de herramientas automatizadas y revisión humana para poder lidiar con este tipo de contenidos. 

"Este contenido viola nuestras políticas y lo estamos eliminando de nuestras redes sociales y tomando medidas contra las cuentas que lo publicaron", ha expresado al medio estadounidense un portavoz de Meta (la matriz de Instagram, plataforma en la que también se han podido ver las imágenes de la cantante.