¿Está preparada Meta para lidiar con el porno deepfake de mujeres famosas?
Stefani Reynolds/Getty
- La junta de supervisión de Meta está investigando dos casos de imágenes de figuras públicas femeninas generadas por inteligencia artificial. Uno de ellos tiene que ver con un deepfake pornográfico de una celebridad estadounidense en Facebook.
- La junta tiene intención de revisar las políticas de plataformas como Facebook, Instagram y WhatsApp con respecto al tratamiento de las imágenes explícitas generadas por IA.
El consejo de supervisión de Meta, la matriz de Facebook, Instagram y WhatsApp, ha anunciado este martes que va a investigar las políticas de la compañía con respecto a los deepfakes explícitos de mujeres que han sido generados por inteligencia artificial.
El órgano consultivo de este gigante de las redes sociales ha asegurado que está investigando dos casos específicos, uno en Instagram y otro en Facebook.
Uno de los casos tiene que ver con una imagen generada por IA que se asemeja a una figura pública estadounidense desnuda con un hombre metiéndole mano. El nombre de la mujer famosa aparecía en el pie de foto de la publicación, que fue compartida en un grupo de Facebook dedicado a las creaciones de inteligencia artificial.
La junta de supervisión de Meta no ha especificado qué figura pública femenina se utilizó para crear ese deepfake de IA, pero sí que ha señalado que otro usuario ya había publicado la imagen pornográfica antes de que se compartiese en el grupo de Facebook. La foto explícita se retiró por infringir la política de acoso e intimidación por "photoshop o dibujos sexualizados despectivos".
El usuario que publicó la foto reclamó dicha retirada, una petición que fue rechazada por el sistema automatizado de Meta. En ese momento, el usuario decidió recurrir al consejo de supervisión.
Los deepfakes pornográficos de Taylor Swift que fueron publicados en X —Twitter— en enero causaron un gran revuelo en internet. Muchas de las imágenes mostraban a la estrella del pop practicando actos sexuales en estadios de fútbol americano.
Un post publicado por un usuario verificado en X atrajo más de 45 millones de visitas antes de ser retirado por los moderadores (unas 17 horas más tarde).
La otra investigación que está llevando a cabo la junta de supervisión de Meta tiene que ver con una imagen generada por inteligencia artificial de una mujer desnuda que se parece a un personaje público de la India. El contenido se publicó en una cuenta de Instagram que solo comparte imágenes generadas por IA de mujeres indias.
En este caso, la matriz de Facebook no eliminó el contenido después de que este fuese denunciado hasta en dos ocasiones. El usuario recurrió a la junta y Meta consideró entonces que su decisión de mantener el contenido era un error. En ese momento eliminó la publicación por violar la Norma Comunitaria sobre Intimidación y Acoso.
El consejo de supervisión ha indicado que ha seleccionado estos dos casos para estudiar si Meta está abordando eficazmente las imágenes pornográficas generadas por inteligencia artificial.
Políticos, figuras públicas y líderes empresariales se han pronunciado acerca de los deepfakes y de los riesgos que plantean.
Cuando se publicaron las imágenes falsas de Taylor Swift, la secretaria de prensa de la Casa Blanca, Karine Jean-Pierre, afirmó que la falta de rigor en la aplicación de la ley sobre deepfakes en Estados Unidos afecta desproporcionadamente a las mujeres, así como a las niñas, "que son los objetivos abrumadores".
Jean-Pierre también apuntó que, si bien la legislación debe desempeñar un papel en la lucha contra este problema, las plataformas de redes sociales también deben tratar de frenar por su cuenta el contenido dañino generado por IA.
Satya Nadella, director ejecutivo de Microsoft, calificó los deepfakes de Taylor Swift de "alarmantes y terribles" y pidió más protección para hacer frente a este tipo de imágenes.
Dejando a un lado el porno, los deepfakes también podrían utilizarse para influir en los procesos electorales. Por ejemplo, hace unos meses, cuando tuvieron lugar las primarias para elegir al candidato demócrata en las próximas elecciones de EEUU, aparecieron llamadas generadas por inteligencia artificial que falsificaban la voz del presidente Joe Biden.
La junta de supervisión de Meta quiere que los usuarios ofrezcan sus opiniones sobre los dos casos que está investigando. Ha solicitado comentarios que sugieran estrategias para abordar este problema y valoraciones con respecto a la gravedad del mismo.
El consejo de la matriz de Facebook va a deliberar acerca de las decisiones a lo largo de las próximas semanas antes de publicar el resultado, según ha estipulado en su anuncio. Aunque las recomendaciones de la junta no son vinculantes, Meta debe responder a ellas en un plazo de 60 días.
Otros artículos interesantes:
Conoce cómo trabajamos en Business Insider.