El asesinato de un historiador iraquí acusado de ser espía en Facebook muestra el lado más oscuro de las redes sociales

El 6 de julio de 2020, cuando el destacado historiador iraquí Hisham al-Hashimi se dirigía hacia su vehículo en la puerta de su casa, al este de Bagdad (Irak), un grupo de hombres armados le disparó cinco veces a quemarropa desde una motocicleta. Cuando llegó al hospital, Al Hashimi había muerto. 

El historiador, que a menudo criticaba abiertamente a las milicias del país, estaba muy relacionado con las distintas facciones de poder iraquíes, desde el ISIS hasta el Gobierno y los políticos de la oposición.

En los meses previos a su muerte, se difundieron por Facebook y otras redes sociales mensajes en los que se acusaba a al-Hashimi de ser espía de las fuerzas estadounidenses, israelíes o británicas y de conspirar para desestabilizar aún más Irak. En ese momento, el país vivía la mayor revuelta civil desde la invasión estadounidense de 2003.

Al-Hashimi sabía que uno de sus mejores amigos, Aws al-Saadi, fundador de la organización sin ánimo de lucro Tech4Peace, era socio de confianza de Meta. Estos socios se dedican a alertar a la red sobre mensajes y comentarios de odio que pongan en peligro las vidas de terceros. Al-Saadi tenía línea directa con la empresa para ayudar a eliminar las amenazas contra su vida. En septiembre de 2019, al-Hashimi se puso en contacto con al-Saadi para preguntarle si podía ayudarle a eliminar las publicaciones dirigidas contra él en Facebook.

Al-Saadi hizo lo que pudo, pero Meta le respondió de forma incoherente. Algunos mensajes se retiraron en un día, mientras que otros permanecieron publicados hasta una semana.

Una publicación de abril de 2020, en la que se afirmaba erróneamente que al-Hashimi era un dirigente de Al Qaeda, nunca se retiró. Al-Saadi lo denunció en la red social, pero Meta respondió que la publicación no infringía las políticas de la empresa.

El 6 de julio de 2020, el día de la muerte de al-Hashimi, al-Saadi respondió: "Ya lo han matado". 

"Una de las razones de su asesinato fue Meta", afirma al-Saadi a Business Insider.

Un informe preliminar revela que los problemas con la red de socios de confianza de Meta son muy comunes

Al-Saadi no es el único. Facebook y su empresa matriz, Meta, se han enfrentado a duras críticas por no moderar adecuadamente la plataforma.

En muchos países, Meta se basa en los informes de grupos de la sociedad civil y expertos locales para combatir la incitación al odio y la desinformación en Facebook. El programa de socios de confianza cobró fuerza a finales de la década de 2010, después de que la empresa recibiera críticas por su papel en el genocidio en Myanmar, y ahora la empresa considera que el programa es esencial para su estrategia de moderación en países cuya situación política es tensa, como Irak.

Un informe preliminar de Internews, una organización de medios de comunicación sin ánimo de lucro, obtenido por Business Insider a través de un socio de confianza, concluye que las deficiencias del programa de Meta ponen en grave peligro a las personas. Internews es también uno de los mayores socios de Meta y recibe financiación de esta para diversos proyectos.     

Meta no ha respondido a la solicitud de comentarios sobre la muerte de al-Hashimi ni sobre el informe de Internews.

Sin embargo, ha proporcionado 3 páginas de respuestas a las preguntas de Internews, que se incluyen en el borrador del informe. En esos comentarios, Meta reconoce que la pandemia impactó severamente en sus operaciones, lo que "resultó en malas experiencias informativas" para sus socios de confianza de 2019 a 2021.

"Durante este período, nuestros equipos de revisión de contenido operaron a una capacidad limitada y no pudieron responder tan rápidamente a los informes del canal de socios de confianza como nos habría gustado y como han hecho en el pasado. En estas difíciles circunstancias, dimos prioridad al contenido más dañino para que nuestros equipos lo revisaran, como los que implicaban riesgo de daño físico inminente o violencia", aseguraba la empresa.

Lo que está en juego aquí es la protección de las personas, la forma en que los países pueden sostener sus sistemas políticos o los riesgos para la salud pública

Meta añadió que sus tiempos de respuesta habían mejorado en 2022 y que esperaba un tiempo de actuación de entre uno y 5 días. En casos más complejos (Meta afirma que los informes de socios de confianza suelen ser complicados) el tiempo de respuesta puede ser mayor. 

465 organizaciones se han inscrito en el programa de socios de confianza de Meta, según la empresa, y tiene al menos un socio en 122 países. Meta, que anteriormente había declarado a Business Insider que el programa se puso en marcha en 2012, indicó en sus comentarios a Internews que no formalizó los procesos hasta 2019. 

El informe de Internews se hizo eco de los hallazgos de una investigación de Business Insider de principios de este año que revelaba cómo Meta ignoró, o se retrasó catastróficamente en reaccionar, a las alarmas de sus socios de confianza en Etiopía mientras había 2 conflictos violentos en curso en el país.

Un profesor fue asesinado después de que un post de Facebook lo tachara de traidor: ¿fue Facebook cómplice de su muerte?

"Las respuestas de Meta a sus socios de confianza en todo el mundo han sido erráticas'

El informe, basado en una encuesta realizada a 24 socios de confianza, incluida Al Saadi, indica que aquellos que trabajan en todo el mundo se encuentran con tiempos de respuesta muy lentos y "erráticos" cuando advierten sobre discursos de odio y otros contenidos nocivos, así como amenazas inminentes para la vida de las personas.

Según el informe, en ocasiones los socios han esperado semanas, si no meses, para recibir una respuesta de Meta. En algunos casos, no han recibido respuesta alguna. Esta frustración ha llevado a algunos socios a abandonar el programa.

Al-Saadi y otros encontraron una solución: apelar directamente a los contactos personales de Meta a través de WhatsApp o Signal, lo que muchas veces tenía más éxito que el canal de información específico para este tema.

Paul Barrett, subdirector del Centro de Empresas y Derechos Humanos de la Escuela de Negocios Stern de la Universidad de Nueva York, afirma que las consecuencias de que Meta ignore a sus socios de confianza son, con demasiada frecuencia, nefastas. "Lo que está en juego es la protección de las personas, la forma en que los países pueden sostener sus sistemas políticos o los riesgos para la salud pública", denuncia Barrett.

Creo que es razonable afirmar que si los socios estuvieran más satisfechos con el programa, informarían más a menudo

Los socios participan en la vigilancia de todo tipo de cuestiones, desde la incitación al odio político y la desinformación en general hasta la información falsa sobre cuestiones como las vacunas.

Una excepción ha sido Ucrania. Allí, según el informe, los socios han experimentado mejores tiempos de respuesta por parte de Meta, con una media de unas 72 horas. En cambio, durante la guerra en la región etíope de Tigray, podían esperar meses y meses sin recibir respuesta.

Rafiq Copeland, asesor principal de Internews y uno de los autores del informe, dice que Meta no explicaba la disparidad entre los tiempos de respuesta de los socios ucranianos y etíopes. "Creo que debemos suponer que se trata de una cuestión de prioridades y recursos", afirma Copeland. 

El informe de Internews también señala que la falta de respuesta y de retirada de contenidos puede atribuirse en parte a que el programa carece de recursos y personal suficientes, un problema que se ha visto agravado por los últimos despidos de la empresa.

Internews descubrió que participar en el programa de socios de confianza, en muchos casos, aumentaba los riesgos para los propios socios, corroborando las historias de varios de ellos en Etiopía que relataron a Business Insider cómo recibieron amenazas de muerte por su trabajo.

Socios de confianza de todo el mundo abandonan el programa

En respuesta a la muerte de al-Hashimi en Irak, en correos electrónicos vistos por Business Insider, Meta envió sus condolencias y pidió a al-Saadi que participara en una reunión en la que podría aportar a la empresa más información sobre sus procesos. 

En la reunión, consternado por la muerte de su amigo, al-Saadi dijo lo siguiente: "¿Por qué me piden mi opinión si no van a hacer nada?". 

Durante las semanas siguientes, abrumado por la tristeza y preguntándose qué podría haber hecho diferente, renunció temporalmente a informar sobre contenidos.

Internews dice que los socios de confianza solo enviaban unas 1.000 denuncias al mes a Meta. 

"Los socios con los que hablamos se sorprendieron cuando escucharon esa cifra. Principalmente porque asumían que la lentitud de los tiempos de respuesta tenía que ver con un alto volumen de casos", señala Copland, que reconoce que esto puede ser una subestimación, ya que no captura los informes presentados a través de canales informales como WhatsApp o Signal.

Además, no se actúa sobre todos esos casos.

"Cuando vemos que solo hay 33 casos al día, esto nos indica que los fallos del sistema no están directamente relacionados con el volumen", explica Copeland. Una explicación de esta cifra tan baja podría ser que los socios no están utilizando el programa debido a sus malas experiencias con él. 

"Creo que es razonable afirmar que si los socios estuvieran más satisfechos con el programa, informarían más a menudo", afirma Copeland.

Meta no ofrece a los socios de confianza la posibilidad de elevar fácilmente las denuncias cuando la vida de alguien está en peligro

Según el informe, las políticas de Meta han sido opacas e incoherentes cuando los socios han señalado publicaciones que amenazaban a activistas, periodistas u otros defensores de los derechos humanos. En ocasiones, recibían respuestas en las que se les comunicaba que no se tomarían medidas. Pero cuando apelaban a través de un contacto personal en Meta, a menudo se revocaban esas decisiones. 

Business Insider ya publicó que un socio de confianza etíope señaló los riesgos del discurso de odio viral dirigido al profesor Meareg Amare tanto a través del canal de socios de confianza como en posteriores reuniones de zoom con Meta, pero la plataforma no actuó. Esta investigación es ahora una prueba decisiva en una demanda de 1.600 millones de dólares (1.445 millones de euros) contra Facebook por incitación al odio. 

En febrero, el propio al-Saadi fue blanco de la desinformación viral que afirmaba que era un colaborador estadounidense que trabajaba para desestabilizar Irak. Al igual que le ocurrió a su amigo al-Hashimi, sabía que tales acusaciones podían poner en peligro su vida. Al-Saadi denunció los mensajes a Meta el 17 de febrero. Una semana más tarde, planteó el asunto a un contacto personal de Meta, que le dijo que lo investigaría, pero no hizo ningún seguimiento. Los mensajes se retiraron el 18 de abril, 2 meses después de la primera denuncia.

"Tiene que haber un sistema de gestión de casos que permita identificar y tratar con rapidez los realmente urgentes, que de un modo u otro no parece existir", comenta Copeland. 

Si todavía estuviera en Irak, al-Saadi, que ahora vive en Holanda, dice que habría temido con más fuerza por su vida. "Te ríes, pero al mismo tiempo lloras por ello", cuenta. 

Los socios piden que se revise el sistema  

Copeland mantiene la esperanza de que Meta reforme el programa de socios de confianza. Según Internews, la empresa necesita rediseñarlo con una colaboración más directa con sus socios. 

Internews espera que esto ayude a crear un canal de socios de confianza con mejor comunicación, más transparencia y tiempos de respuesta más rápidos. 

"Creo que Meta tiene que comprometerse a reformar realmente el programa. Hasta ahora no hemos visto ese compromiso, pero es un trabajo en curso", sentencia Copeland.