Una provincia argentina implementó una IA abusiva para predecir qué niñas podían quedarse embarazadas

Adolescente embarazada

Getty Images

  • Una inquietante investigación realizada por Wired revela que la provincia argentina de Salta aprobó en 2018 el desarrollo de un algoritmo de Microsoft para determinar qué adolescentes de bajos ingresos podrían quedarse embarazadas.
  • Se utilizaron datos como edad, etnia, discapacidad, país de origen y si su casa tenía o no agua caliente para determinar qué mujeres y niñas que vivían en un pequeño pueblo argentino estaban “predestinadas” a la maternidad.
  • Todavía no está claro qué hizo el Gobierno con los datos y si se relacionaron con el debate sobre el aborto, que fue despenalizado en Argentina en 2020. 
  • Comienza el día bien informado con la selección de noticias de Business Insider España: suscríbete gratis aquí.

Los algoritmos predictivos pueden emplearse para múltiples fines, desde anticipar el comportamiento humano a conocer de antemano posibles delitos, o incluso predecir la propensión de un adolescente a consumir alcohol o drogas. 

Cuando el inmenso poder del avance tecnológico se cruza con el autoritarismo estatal o la hipervigilancia, pueden nacer proyectos tan polémicos como cuestionables desde el punto de vista de la ética. 

Una investigación llevada a cabo por el medio Wired revela que la provincia argentina de Salta aprobó el desarrollo de un algoritmo de Microsoft en 2018 para determinar qué futuras adolescentes podrían quedarse embarazadas. 

Calificado por la propia tecnológica fundada por Bill Gates como"uno de los casos pioneros en el uso de datos de IA", el algoritmo utilizó un cóctel de datos demográficos y personales para predecir las probabilidades de que las mujeres y niñas de pequeño municipio argentino se quedasen embarazadas. 

La información abarcaba su edad, etnia, discapacidad, país de origen y si su casa tenía agua caliente, indicador de su nivel socioeconómico. 

Mientras el país debatía acerca de la despenalización del aborto, este programa fue aplaudido en la televisión nacional por el entonces gobernador Juan Manuel Urtubey. Las consecuencias de la aplicación de la IA repercutieron negativamente sobre las mujeres y niñas identificadas como posibles madres adolescentes: fueron privadas de sus derechos de diversas maneras. 

El algoritmo, conocido como Plataforma Tecnológica de Intervención Social, destacó por la falta de transparencia que rodeó al programa, orientado a la vigilancia y control de la población. Desde Wired advierten de que las autoridades argentinas jamás evaluaron formalmente el impacto del algoritmo en niñas y mujeres.

Una inteligencia artificial llega más lejos que los médicos y descubre la combinación de fármacos para tratar un raro cáncer cerebral infantil

Además, el programa implicó el despliegue de agentes territoriales que encuestaron a las personas identificadas por la IA como predestinadas para el embarazo, les tomaron fotos e incluso registraron sus ubicaciones GPS. No se conoce con exactitud qué se hizo con los datos ni su relación en el debate sobre la despenalización del aborto. 

La información que se conoce proviene de la labor divulgativa e investigadora de activistas feministas y periodistas que lideraron la auditoría de la IA, que calificaron como "defectuosa y dañina", alertando a  los medios nacionales sobre cómo se estaba utilizando una tecnología no probada y no regulada para violar los derechos de las niñas y las mujeres.

?La idea de que los algoritmos pueden predecir el embarazo adolescente antes de que suceda es la excusa perfecta para que los activistas contra las mujeres y los derechos sexuales y reproductivos declaren innecesarias las leyes sobre el aborto?, escribieron las académicas feministas Paz Peña y Joana Varon. 

Además, el Laboratorio de Inteligencia Artificial Aplicada de la Universidad de Buenos Aires destacó los graves errores técnicos y de diseño de la plataforma y cuestionó que el modelo hiciese predicciones correctas el 98,2% de las ocasiones, tal y como aseveraban sus desarrolladores.

La base del sistema también fue objeto de fuertes críticas, ya que no incluyó datos sobre la educación sexual o la anticoncepción, que los esfuerzos de salud pública en todo el mundo reconocen como las herramientas más importantes para reducir las tasas de embarazo adolescente. 

?Los problemas metodológicos, como la falta de confiabilidad de los datos, plantean el riesgo de que los responsables políticos tomen medidas equivocadas?, apuntó Diego Fernandez Slezak, director del laboratorio.

Otros artículos interesantes:

¿Se puede comer jamón durante el embarazo? ¿Y pescado? ¿Y beber refrescos?

Woom, la startup española de fertilidad que quiere revolucionar la salud de la mujer a través de la tecnología: "Hay falta de información y mucho tabú"

El desastre de la realidad mixta de Microsoft: las rivalidades internas, la confusión y los proyectos cancelados tambalean la estrategia metaversa de la compañía

Te recomendamos