Meta "engañó" a sus usuarios mediante una campaña que restaba importancia a los contenidos dañinos de Facebook e Instagram

Meta, la matriz de Facebook, Instagram y WhatsApp, habría restado importancia a los índices de desinformación, incitación al odio, discriminación y otros contenidos nocivos de sus redes sociales, según una demanda contra la empresa que ha sido presentada en nombre de 33 de los 50 estados de Estados Unidos.

En la denuncia se acusa a Meta de haber elaborado informes trimestrales —conocidos internamente como Informe sobre el Cumplimiento de las Normas de la Comunidad (CSER, por sus siglas en inglés)— en los que presumía de los bajos índices de infracciones de las normas de la comunidad en sus plataformas. 

Sin embargo, esos informes habrían excluido datos clave de encuestas sobre la experiencia de los usuarios que demostraban unos índices mucho más elevados de contacto con contenidos dañinos. 

Meta asegura en sus informes que, de cada 10.000 contenidos visualizados en sus redes sociales, solo 10 u 11 contienen incitación al odio. Es decir, entre un 0,10% y un 0,11%, según los datos de julio a septiembre de 2020 de su informe CSER. 

La matriz de Facebook e Instagram define el discurso de odio a través del CSER como "discurso violento o deshumanizador, declaraciones de inferioridad, llamadas a la marginación o segregación basadas en características protegidas o insultos".

En cambio, según la demanda, una encuesta interna de usuarios de Meta conocida como Encuesta de Seguimiento del Alcance de los Problemas de Integridad (TRIPS), que un documento interno de Instagram denominó en su día como "la medición de la verdad sobre el terreno", informaba solo unos meses antes de niveles significativamente más altos de incitación al odio. 

Las autoridades europeas ya están investigando el "chantaje" de Meta: pagar una suscripción para que no use tus datos con fines publicitarios

Una media del 19,3% de los usuarios de Instagram y del 17,6% de los usuarios de Facebook declararon haber sido testigos de discursos de odio o discriminación en las plataformas, según un informe de TRIPS de mayo de 2020 citado por la denuncia. 

Del mismo modo, una media del 12,2% de los usuarios de Instagram y del 16,6% de los usuarios de Facebook declararon haber visto violencia gráfica en estas redes sociales, y más del 20% de los usuarios fueron testigos de intimidación y acoso, según el resumen que realiza la demanda del informe TRIPS.

Meta define la violencia gráfica como el contenido que "glorifica la violencia o celebra el sufrimiento o la humillación de otros" y también señala que la intimidación y el acoso son "altamente personales por naturaleza", por lo que "el uso de la tecnología para detectar proactivamente estos comportamientos puede ser más difícil que otros tipos de violaciones", según el CSER.

La denuncia —que alude a otras estadísticas sobre contenidos nocivos recogidas en informes internos— sostiene que la compañía dirigida por Mark Zuckerberg ocultó estas cifras y utilizó informes públicos como el CSER para "crear la impresión de que los contenidos dañinos no son 'frecuentes' en sus plataformas".

Tal y como publica el New York Times, la querella presentada por las administraciones estadounidenses ha sido elaborada a partir de "fragmentos de correos electrónicos internos, charlas de empleados y presentaciones de la empresa" y no entra en muchos detalles sobre la metodología de encuestas como la TRIPS u otra de las citadas llamada Marco de Malas Experiencias y Encuentros (BEEF). 

La demanda se limita a indicar que ambas son "encuestas rigurosas", utilizadas para sondear a los usuarios sobre sus interacciones con contenidos nocivos como el suicidio o las autolesiones, las comparaciones negativas, la desinformación, el acoso, las insinuaciones sexuales no deseadas, la incitación al odio o la discriminación.

Un portavoz de Meta ha declarado a Business Insider que los datos recogidos en estas encuestas no miden realmente la "prevalencia" —que la compañía define como el porcentaje de visualizaciones de contenidos infractores sobre el total de visualizaciones— en el sentido que sugiere la denuncia. 

En su lugar, la empresa de redes sociales utiliza la información de estas encuestas para desarrollar nuevas funciones, como los avisos sobre comentarios o contenidos hirientes (lanzados en 2020) o recordatorios de amabilidad que animen a las personas a ser respetuosas cuando se pongan en contacto con quienes no conocen (lanzados en 2022).

"Hemos pasado una década trabajando en estos temas y contratando a personas que han dedicado sus carreras a mantener a los jóvenes a salvo y protegidos", defiende el portavoz de Meta. "La denuncia tergiversa nuestro trabajo utilizando citas selectivas y documentos escogidos al azar".