Facebook utiliza inteligencia artificial para detectar tendencias suicidas en sus usuarios

• Facebook está utilizando tecnología basada en reconocimiento de patrones para identificar contenido que pudiera ser indicativo de tendencias suicidas.
• El sistema busca comentarios del tipo "¿Estás bien?" y "¿Puedo ayudarte?".
• El software se está lanzando a nivel mundial, salvo en la Unión Europea.

Facebook está comenzando a utilizar una nueva tecnología basada en la inteligencia artificial que tiene por objetivo detectar posts, vídeos y vídeos en directo de Facebook Live que puedan contener tendencias suicidas, según ha anunciado la propia compañía.

La empresa está desplegando la denominada tecnología de "detección proactiva" a nivel mundial después de una serie de pruebas en Estados Unidos, donde fue anunciada el pasado mes de marzo. Sin embargo, todavía existe una excepción bastante grande: la Unión Europea, donde las leyes de privacidad complican el uso de esta técnica.

"Estamos comenzando a desplegar la tecnología de inteligencia artificial fuera de los Estados Unidos para ayudar a identificar cuando alguien podría estar expresando tendencias suicidas, incluso en Facebook Live", explica en un blog Guy Rosen, vicepresidente de gestión de producto. "Acabará estando disponible en todo el mundo, salvo en la Unión Europea."

Rosen añade: "Este enfoque utiliza tecnología basada en reconocimiento de patrones para ayudar a identificar post y vídeos en directo que puedan estar expresando ideas suicidas. Seguimos trabajando en esta tecnología para mejorar su precisión y evitar falsos positivos antes de ser evaluados por nuestro equipo".

"Utilizamos señales como el texto introducido en cada publicación y los comentarios; por ejemplo, comentarios del tipo "¿Estás bien?" o "¿Puedo ayudarte?" pueden ser indicadores de que existe un problema. En algunos casos, hemos descubierto que la tecnología ha identificado vídeos que no habían sido reportados por los cauces habituales".

La gigantesca red social ya permite a los usuarios reportar amigos que crean que pueden estar en riesgo, pero utilizar la inteligencia artificial podría ayudar a la compañía a detectar antes tendencias suicidas.

Desde Facebook explican que también están mejorando cómo identificar y contactar adecuadamente con la policía, bomberos o servicios de asistencia médica cuando detecta que alguien está en riesgo.

Dentro del llamado equipo de operaciones comunitarias, formado por gente que analiza los informes sobre contenidos en Facebook, existe un grupo dedicado exclusivamente al suicidio y las autolesiones. Desde Facebook argumentan que utilizan la inteligencia artificial para priorizar el orden en el que los posts, vídeos y vídeos en directo son analizados para que los servicios de emergencia puedan ponerse en contacto con aquellos que más lo necesitan.

Facebook puede también contactar con aquellos usuarios que están en riesgo (y sus amigos) a través de Facebook Messenger con enlaces a páginas de interés, como el Teléfono de la Esperanza o Crisis Text Line.

Mark Zuckerberg, cofundador y CEO de Facebook, explica en su página de Facebook que la tecnología ha sido diseñada para ayudar a Facebook a salvar vidas: "He aquí un buen uso de la inteligencia artificial: ayudar a prevenir el suicidio".

"A partir de hoy estamos mejorando nuestras herramientas de inteligencia artificial para identificar cuándo alguien está expresando pensamientos suicidas en Facebook con el objetivo de que podamos ayudarles a obtener la ayuda que necesitan rápidamente. En el último mes, estas herramientas de inteligencia artificial nos han ayudado a conectaros rápidamente con los servicios de emergencia en más de 100 veces".

"Con todo el temor sobre cómo la inteligencia artificial puede ser dañina en el futuro, es bueno recordar cómo está ayudando a salvar vidas en el mundo real en la actualidad".

"Todavía queda mucho por hacer. Hoy, estas herramientas de inteligencia artificial utilizan esencialmente el reconocimiento de patrones para identificar señales de alerta, como comentarios que preguntan si alguien está bien, que son enviadas rápidamente a nuestros equipos que trabajan las 24 horas del día en todo el mundo para que la gente pueda conseguir ayuda en cuestión de minutos. En el futuro, la inteligencia artificial podrá comprender mejor las sutilezas del lenguaje e identificar otras cuestiones aparte del suicido, incluyendo problemas de acoso y odio."

"El suicidio es una de las principales causas de muerte entre los jóvenes y este es un nuevo enfoque para la prevención. Vamos a seguir trabajando estrechamente con nuestros socios de Save.org, National Suicide Prevention Lifeline '1-800-273-TALK (8255)', Forefront Suicide Prevent y con los servicios de emergencia para seguir mejorando. Si podemos usar la inteligencia artificial para ayudar a que la gente esté con sus seres queridos es un importante paso adelante".