Pasar al contenido principal

Tumban un sistema de vigilancia para detectar fraudes a la seguridad social en los Países Bajos porque violaba derechos humanos, según un juzgado

Black Mirror, capítulo Nosedive.
Netflix

  • Un juzgado holandés ha suspendido de forma inmediata un sistema del gobierno con el que cruzaban datos para detectar y predecir casos de fraude.
  • La oposición a este sistema de vigilancia entendía que marcaba y discriminaba al pobre, además de vulnerar la legislación en materia de protección de datos.
  • La sentencia concluye que estos métodos de investigación de la administración neerlandesa era contraria incluso a los derechos humanos, según The Guardian.
  • El Observatorio de Derechos Humanos ha remarcado que esta política neerlandesa forma parte de una tendencia global de digitalizar estos sistemas.
  • Descubre más historias en Business Insider España.

Se llamaba SyRI por sus siglas en neerlandés. En español se puede traducir como Indicador de Riesgo para el Sistema. Era una metodología del Gobierno de los Países Bajos para predecir y detectar posibles casos de fraude a la seguridad social. Y ahora se tendrá que desmantelar: un juzgado ha dictaminado que viola los derechos humanos, según informa The Guardian.

Como explicaba el Observatorio por los Derechos Humanos en un post en su blog, este SyRI era un modelo desarrollado por el Ministerio de Asuntos Sociales y Empleo neerlandés para calcular el riesgo de que un individuo que se beneficie de becas, por ejemplo, incurra en un caso de fraude. "Cuando el sistema detecta un posible defraudador, lo notifica a la agencia gubernamental que corresponda, que puede abrir una investigación en dos años".

Leer más: Una startup ha robado miles de millones de fotos de Facebook y otras webs para crear una base de datos de reconocimiento facial que ya usan policías de todo el mundo

El gobierno neerlandés no quiso detallar cómo funcionaba el algoritmo de este SyRI porque, según recoge el Observatorio, temían que los defraudadores pudieran trucar el sistema. Sin embargo, esta organización incide en que ya se han producido falsos positivos y que un indicador como este "traza y etiqueta al pobre", por lo que acaba resultando discriminatorio.

Esta fue la principal razón por la que un grupo de activistas y colectivos civiles y sociales presentaron una demanda en uno de los juzgados de La Haya, alegando que este SyRI viola las leyes de protección de datos y los estándares de los derechos humanos. Y han ganado.

Según The Guardian, el juzgado ha ordenado suspender de forma inmediata la aplicación de este sistema, que para el Observatorio de los Derechos Humanos forma parte de una "tendencia global" a integrar tecnologías de datos e inteligencia artificial en las administraciones públicas. En España, un colegio catalán llegó a pasar lista a sus alumnos mediante reconocimiento facial.

Leer más: Un software de reconocimiento facial permite identificar a personas a través de sus resonancias magnéticas, lo que podría causar un importante problema de privacidad

El relator especial de extrema pobreza de la ONU, Philip Alston, ha aplaudido la sentencia. En declaraciones que recoge el diario británico, ha considerado que es "una clara victoria para todos aquellos que estaban justificadamente preocupados por las serias amenazas que aplicar los sistemas digitales en la seguridad social suponen para los derechos humanos".

"Sienta una gran jurisprudencia", ha apostillado. También ha recordado que es "la primera vez que un juzgado en todo el mundo paraliza el uso de tecnologías digitales y la abundante información que se genera en un sistema de seguridad social".

El diario también recoge el testimonio de Stephen Timms, el presidente de la comisión de Empleo y Pensiones en la británica Cámara de los Comunes. "Esta sentencia neerlandesa demuestra que los parlamentos, para proteger los derechos de los ciudadanos, deben vigilar muy de cerca la forma en la que los gobiernos hacen uso de la tecnología en sus sistemas de la seguridad social".

Y además