Posts basura como el 'Jesucristo langostino' están destruyendo Facebook

Mi pastor nunca me habló de los tipos de Jesús que veo en Facebook estos días: un adulto hecho de langostinos; un bebé rodeado de hadas de tres brazos y velas (terrible paternidad, José); un crucifijo adorado por azafatas arrodilladas alrededor de una piscina.

Estas imágenes de Jesús son el tipo de imágenes generadas por inteligencia artificial que están inundando Facebook, haciendo que la red social sea aún más deprimente.

Soy una de las pocas millennials que conozco que utiliza Facebook con regularidad, sobre todo para hacer amigos en grupos de expatriados y para amueblar un nuevo apartamento a través de Marketplace, la única parte buena de la red social. Aunque disfruto riéndome de cosas como el Jesucristo langostino, me alarma el nivel de interacción que veo en estas publicaciones y lo que eso nos dice sobre el futuro de las redes sociales.

Hace años, Facebook sentó las bases de la actual basura de IA al quitar prioridad al contenido de fuentes legítimas, como los medios que publican noticias, en favor de las publicaciones de familiares y amigos. "Sentimos la responsabilidad de asegurarnos de que nuestros servicios no solo sean divertidos de usar, sino que también sean buenos para el bienestar de las personas", escribió el CEO Mark Zuckerberg cuando anunció el cambio en 2018.

Pero aparte de algunos parientes mayores y conocidos de la universidad, nadie que yo conozca publica mucho. En cambio, mi feed es una mezcla de publicaciones de grupos, anuncios e imágenes raras de IA; en mi caso, sobre todo de casas y complejos turísticos falsos, quizá porque pertenezco a algunos grupos de viajes.

En la sección de comentarios de esas imágenes es donde la cosas se pone oscura.

Una mezcla de estafadores deseosos de vender criptomonedas y personas reales comentan estas fotos. Lo primero es de esperar en todos los foros en internet, pero lo segundo es un triste reflejo de la escasa alfabetización mediática, y los investigadores están empezando a darse cuenta.

La semana pasada, investigadores de la Universidad de Stanford y la Universidad de Georgetown publicaron un artículo —aún no revisado por pares— sobre las imágenes de IA en Facebook tras estudiar 120 páginas de Facebook hasta principios de marzo. Según sus autores, las imágenes generadas por IA aparecen porque el algoritmo de Facebook cree que aumentarán la participación, y algunas de las publicaciones analizadas se hicieron virales.

Como era de esperar, los investigadores descubrieron que algunas personas que utilizaban estos contenidos no parecían darse cuenta de que eran generados por inteligencia artificial, y que los grupos detrás de estas páginas no eran muy buenos. Los investigadores escribieron que algunos de los gestores de las páginas tienen "comportamientos inequívocamente manipuladores", como robar páginas y añadir seguidores falsos para mejorar su estatus.

La página "Thank Jesus For Everything", de la que saqué las imágenes de este artículo, es exactamente igual a la que encontraron los investigadores. La página, dedicada originalmente a presentar a músicos locales, fue pirateada en enero de 2023, según me ha comentado su propietario original.

Lo que necesitas saber para estar informado

¿Te gusta lo que lees? Comienza tu día sabiendo qué piensan y qué les preocupa a los ejecutivos de las principales empresas del mundo con una selección de historias enviada por Business Insider España a primera hora cada mañana.

Recibe la newsletter

Tras el ataque, la página empezó a publicar el tipo de imágenes religiosas boomer (oraciones en Comic Sans sobre imágenes prediseñadas de mala calidad) que circulan por Facebook desde hace tiempo. Esas imágenes procedían de otra página llamada VFit Athlete, un gimnasio con sede en Indiana cuyo propietario me ha dicho que también había sido pirateado, y que desde entonces también se ha pasado a publicar imágenes del Jesús de IA. Juntas, las páginas tienen 130.000 seguidores, una gota en el mar de los 3.000 millones de usuarios activos mensuales de Meta.

El verdadero propósito de estas páginas sigue siendo incierto: más allá de las estafas obvias de comentarios, podrían estar aumentando las visitas a la página para utilizarlas con otros fines más adelante, como aumentar la desinformación, un ciclo que hemos visto en Facebook con otras páginas anteriores a la IA generativa.

Meta no ha respondido a mis peticiones de comentarios, ni siquiera sobre las páginas pirateadas.

Facebook sabe que la IA generativa es un problema. Otros medios de comunicación ya se habían hecho eco del tema mucho antes del estudio de la semana pasada; 404 Media escribió sobre él en diciembre. El presidente de asuntos globales de Meta dijo en febrero que la empresa está trabajando en etiquetas de IA generativa que pondrá en marcha a finales de este año. Esto se produce en un año electoral que ya se ha visto empañado por cuestiones relacionadas con la IA generativa, tanto en Internet como fuera de ella.

Pero no quiero ver contenidos etiquetados de IA generativa en mi feed, no quiero ninguna foto de IA generativa en absoluto. Para un universo alternativo, mira a Instagram: allí, veo fotos y vídeos de mis seres queridos reales, atletas y marcas que me gustan, intercalados con anuncios que, a veces, están lo suficientemente bien orientados como para que pique.

No haber visto —todavía— al Jesús versión 'crucero de vacaciones' en Instagram es una verdadera bendición.