Conoce al 'Jesucristo langostino': Facebook se está llenando de spam generado por IA que redirige a estafas y a granjas de clics

A lo largo del año pasado, la matriz de Facebook, Instagram y WhatsApp, Meta, se posicionó abiertamente a favor del desarrollo de inteligencia artificial de código abierto.

Parecía que se trataba de una forma de distanciarse de otros gigantes tecnológicos que han apostado recientemente por esta tecnología, como Microsoft (que ha impulsado a la desarrolladora de ChatGPT, OpenAI), pero que han decidido enfocarse en el desarrollo de IA generativa de código cerrado. 

Meta se situaba así en una posición mucho más aperturista, en línea con las demandas del algunos expertos y líderes tecnológicos que han defendido la necesidad de que una tecnología tan potente como la inteligencia artificial sea de código abierto para que todo el mundo pueda saber a qué se debe el comportamiento de estos modelos. 

La matriz de Facebook hizo que su modelo de IA, el Llama 2, fuese de código abierto porque "Zuck tiene pelotas", llegó incluso a decir un exingeniero de la red social, refiriéndose a Mark Zuckerberg, CEO de Meta y cofundador de Facebook. De ese modo, Meta lazó también una alianza por la inteligencia artificial en la que más de 50 grandes empresas abogaban por una tecnología de código abierto.

Ingeniero de 'prompts': ¿el trabajo del futuro o moda pasajera hinchada por la IA?

Sin embargo, Zuckerberg quizá debería aplicar esa apuesta por el aperturismo a sus propias plataformas. Y es que, tal y como ha publicado 404 Media, el algoritmo de Facebook está siendo criticado en redes sociales por estar impulsando el contenido spam generado por IA que redirige a granjas de clics —también generadas por inteligencia artificial— y cargadas de anuncios.

Según ha informado este medio especializado en tecnología, el algoritmo de recomendación de la plataforma de Meta está promocionando una serie de imágenes extrañas generadas por IA (entre ellas un Jesucristo langostino), ofrecidas por creadores de spam y estafadores a un público que interactúa con ellas sin pensar y que quizá no entienda que no son reales.

Así lo han recogido varios investigadores de las universidades de Stanford y Georgetown, en Estados Unidos, en un artículo académico en el que han analizado este fenómeno. Al parecer, muchos de esos contenidos han encontrado una forma novedosa de enlazar con páginas de "noticias" generadas por inteligencia artificial, plagadas de anuncios de Google o que venden productos de baja calidad.  

Los investigadores de las universidades de Stanford y Georgetown han apuntado a que lo que está ocurriendo es que cientos de páginas de spam generadas por IA están publicando docenas de veces al día y están siendo recompensadas por el algoritmo de recomendación de Facebook. 

Según 404 Media, como esos contenidos funcionan, cada vez se hacen virales cosas más extravagantes, que luego se recomiendan a las personas que interactúan con ellas. 

Las páginas que difunden esos contenidos, que al principio no parecían tener otro objetivo que acumular un gran número de seguidores, han pasado a dirigir ese tráfico a páginas web plagadas de anuncios, a veces generados también por inteligencia artificial, o a webs que venden productos baratos o directamente estafas. 

"Estas imágenes en total suponen cientos de millones de interacciones y se muestran a través del feed de Facebook a algunos usuarios que no siguen esas páginas", han asegurado acerca de su investigación Renee DiResta, del Observatorio de Internet de Stanford, y Josh A. Goldstein, del Centro de Seguridad y Tecnologías Emergentes de Georgetown. 

"Aunque el Jesucristo langostino obviamente es una fantasía artística (creada por una página que anteriormente compartía enlaces clickbait a una granja de contenidos), los comentarios sobre muchas de las imágenes generadas por IA de cosas más mundanas, como artículos para el hogar, casas u obras de arte supuestamente creadas por niños, sugieren que muchos usuarios desconocen el origen artificial", han denunciado estos investigadores.