Revelan quién está detrás de la app de deepfakes porno que se utilizó en casos como el de las niñas de Almendralejo
Getty
- De un tiempo a esta parte se han producido varios casos de deepfakes pornográficos generados por inteligencia artificial. Uno de los más sonados ha sido el de la cantante Taylor Swift, pero en España se produjo uno en Almendralejo, Extremadura.
- Una nueva investigación ha revelado el nombre de las personas que se encuentran detrás de una de las principales aplicaciones que se utilizan para generar este tipo de contenidos.
El caso de los deepfakes pornográficos de Taylor Swift generados por inteligencia artificial acaparó todos los focos mediáticos hace apenas unas semanas.
No es de extrañar. Se trata de una artista tan relevante que es capaz de paralizar una ciudad entera cada vez que ofrece un concierto en ella y de una tecnología que, más allá de haber llegado para revolucionar el sector empresarial, ha conseguido que numerosos expertos se pongan de acuerdo al señalar los importantes riesgos que plantea.
Los deepfakes de Swift generados por IA llevaron a X (Twitter) a bloquear las búsquedas del nombre de la cantante y a importantes ejecutivos tecnológicos —como el CEO de Microsoft, Satya Nadella— a asegurar que se trataba de unas imágenes "terribles" y "alarmantes", un término que también utilizó la secretaria de prensa de la Casa Blanca, Karine Jean-Pierre, que afirmó que la responsabilidad de evitar la propagación de este tipo de desinformación era de las plataformas tecnológicas.
Sin embargo, el suceso de la estrella del pop solo representa uno de los múltiples casos similares que se han producido en los últimos meses. Uno de los que atrajo más atención en España fue el de las niñas de Almendralejo, una localidad de Extremadura que en septiembre de 2023 se vio afectada por un caso masivo de deepfakes pornográficos generados por inteligencia artificial.
Al parecer, mientras tenía lugar el suceso de Almendralejo, a miles de kilómetros de distancia ocurría algo similar en el instituto Westfield de Nueva Jersey, Estados Unidos. Y es que muchos de estos casos podrían tener en común la misma herramienta para generar imágenes falsas por IA, la aplicación ClothOff.
Tal y como ha publicado The Guardian, que ha realizado una investigación en profundidad y se ha puesto en contacto con la madre de una de las niñas afectadas en el caso de Almendralejo, la ginecóloga Miriam al-Adib, los responsables de ClothOff han protegido cuidadosamente su anonimato.
Según parece, las personas que se encuentran detrás de esta aplicación han distorsionado digitalmente sus voces para responder a las preguntas de los medios de comunicación y han utilizado la inteligencia artificial para generar una imagen de una persona totalmente falsa que afirmaban que era su director general.
El medio de comunicación británico ha revelado que el rastro de estas personas conduce a Bielorrusia y Rusia, pero pasa por empresas registradas en Europa y sociedades pantalla con sede en el corazón de Londres.
Unas capturas de pantalla a las que ha tenido acceso The Guardian indican que una cuenta de Telegram a nombre de Dasha Babicheva, cuyas cuentas en redes sociales sugieren que tiene unos 20 años y vive en Minsk, Bielorrusia, ha llevado a cabo negocios a nombre de ClothOff, incluida la presentación de solicitudes a bancos, cambios en la página web y asociaciones empresariales.
El medio británico informa de que la web de ClothOff recibe más de 4 millones de visitas mensuales. A la aplicación se accede a través de un smartphone pulsando un botón que confirma que el usuario es mayor de 18 años y, una vez que este paga unos 10 euros, recibe 25 créditos con los que poder subir fotografías de cualquier mujer o niña y recibir la misma imagen sin ropa.
Alaiksandr Babichau, de 30 años, identificado en las redes sociales como hermano de Dasha Babicheva, también estaría estrechamente vinculado a ClothOff, según The Guardian.
En una oferta de empleo, la plataforma de deepfakes dirigía a los candidatos a una dirección de correo electrónico perteneciente al dominio web AI-Imagecraft. Al parecer, el nombre de la persona que registró el dominio de AI-Imagecraft se ha ocultado a petición de esta, pero AI-Imagecraft tiene una web duplicada prácticamente idéntica, A-Imagecraft, cuyo propietario no se ha ocultado y figura como Babichau.
Queda por ver cuántos casos de pornografía generada por inteligencia artificial están relacionados con la actividad de estos dos hermanos bielorrusos y si procesos judiciales como el de las niñas de Almendralejo pueden acusarles de haber tenido parte de responsabilidad en la generación de esas imágenes.
Otros artículos interesantes:
Descubre más sobre Ramón Armero, autor/a de este artículo.
Conoce cómo trabajamos en Business Insider.