Instagram promociona apps de desnudos generados por IA: algunos anuncios ya han sido borrados por Meta

A la matriz de Facebook, Instagram y WhatsApp, Meta, le está ocurriendo algo similar a lo que está sucediendo con Microsoft, Apple o Google. Las grandes tecnológicas se han dado cuenta —o al menos así lo creen sus directores ejecutivos— de que el futuro de la industria de la tecnología pasa por el avance de la inteligencia artificial. 

En el caso de Meta, la empresa dirigida por Mark Zuckerberg está apostando decididamente por la IA generativa. Tanto es así que la semana pasada presentó la tercera versión de su modelo de inteligencia artificial, el Llama 3, una tecnología que podría incluso ser capaz de razonar, de planificar y de tener memoria, pero que —por suerte— todavía no supone una amenaza "existencial" para la humanidad.

Los planes a futuro de la matriz de Facebook están íntimamente relacionados con el auge de la IA. Sin ir más lejos, Meta tiene intención de unificar la experiencia de sus distintas plataformas, Facebook, Instagram, Messenger y WhatsApp, a través de un único asistente de inteligencia artificial: Meta AI. 

Zuckerberg dice que Llama 3, el nuevo modelo de IA de Meta, es muy bueno pero no supone una amenaza "existencial"… todavía

Sin embargo, la compañía de redes sociales debería tener en cuenta que la IA ha demostrado tener un potencial tan grande para hacer el bien como para hacer el mal. Prueba de ello son casos como el de las niñas de Almendralejo, un pueblo de Extremadura que se vio afectado por un caso masivo de pornografía deepfake generada por inteligencia artificial. 

Y es que, en una de las propias plataformas de Meta, en Instagram, han aparecido anuncios de aplicaciones para generar desnudos no consentidos utilizando IA. Así lo ha denunciado el medio de especializado 404 Media, que ha informado acerca de al menos dos aplicaciones que se publicitan en la red social.

Tal y como ha publicado el medio de comunicación, Instagram se estaría beneficiando de los ingresos publicitarios que le están generando varios anuncios que invitan a la gente a crear desnudos no consentidos con aplicaciones de generación de imágenes por inteligencia artificial, en una muestra de que la plataforma de Meta no puede o no quiere hacer cumplir sus propias políticas. 

Según explica 404 Media, aunque la biblioteca de anuncios de Meta —una plataforma que archiva la publicidad de sus redes sociales, quién ha pagado por ella, y dónde y cuándo se han publicado esos anuncios— muestra que la empresa ha retirado varios de estos anuncios anteriormente, muchos anuncios seguían publicados hasta que el medio de comunicación me puso en contacto con Meta. 

Al parecer, uno de los anuncios más escandalosos incluía una fotografía de Kim Kardashian y el texto: "Desnuda gratis a cualquier chica. Pruébalo". Las personas que pulsaban en este anuncio eran conducidas a una de las mayores web de desnudamiento, donde podían subir una foto y pagar para que la aplicación generase una imagen que hiciese aparecer desnuda a la persona de esa fotografía.

"Meta no permite anuncios que contengan contenido para adultos y cuando identificamos anuncios infractores trabajamos rápidamente para eliminarlos, como estamos haciendo en este caso", ha declarado a través de un correo electrónico Daniel Roberts, portavoz de la matriz de Instagram, al medio especializado. 

La compañía dirigida por Mark Zuckerberg anunció recientemente que iba a tomar una serie de medidas para intentar que sus redes sociales sean más seguras en cuestiones de acoso sexual e intimidación. Por ejemplo, la propia Instagram tiene intención de empezar a difuminar las imágenes de desnudos en los mensajes privados para proteger a los adolescentes.

Sin embargo, los deepfakes generados por inteligencia artificial pueden seguir siendo un problema para este tipo de plataformas, ya que se trata de una cuestión que incluso amenaza con "saturar internet".