Más de 40 organizaciones exigen derogar el reconocimiento facial y controlar el uso de la IA en las fronteras de Ceuta y Melilla por los riesgos a los derechos fundamentales

Más de 40 organizaciones de la sociedad civil han lanzado un manifiesto este jueves en el que exigen la aplicación del futuro Reglamento sobre la IA que prepara la Comisión Europea también en fronteras, así como la derogación de un reglamento europeo de 2017 que ampara el uso de tecnologías de reconocimiento facial en fronteras.

El manifiesto, que se puede consultar aquí, nace suscrito por entidades como SOS Racismo, Caminando Fronteras, Red Acoge, Rights International Spain, Lafede.cat o la Asociación por los Derechos Humanos de Andalucía (APHDA), y es la reacción de varios de estos colectivos a una información que el diario El País publicó en diciembre de 2021.

En ese artículo de El País se anunciaba la reciente creación de una comisión interministerial en la que también participan representantes del Centro Nacional de Inteligencia (CNI) y que están haciendo un ejercicio de prospectiva sobre el futuro a corto y medio plazo de los pasos terrestres en Ceuta y Melilla.

Se da la circunstancia de que los pasos en las dos ciudades autónomas son las dos únicas fronteras terrestres que la Unión Europea tiene en África. Además, el Gobierno español lleva más de un lustro anunciando y trabajando en la consecución de lo que se ha denominado "frontera inteligente". El País destaca que la finalización de esas tareas son "urgentes" para el Ejecutivo nacional.

Una frontera inteligente que no es nueva

El Ministerio de Interior español presentó su plan para esta frontera inteligente en octubre de 2015, como recogió entonces El Faro de Ceuta. Este mismo medio señaló ya en 2019 que se había adjudicado a una empresa la instalación de hasta 35 cámaras de reconocimiento facial en el paso fronterizo del Tarajal que conecta a Ceuta con la localidad marroquí de Castillejos.

Las entidades firmantes de este manifiesto, entre las que también están Oxfam Intermon, exigen "la aplicación de la regulación de la IA y la protección de datos también en la frontera, ámbito exento de la regulación europea actualmente", así como la derogación de un reglamento europeo que permite el reconocimiento facial en este ámbito.

También demandan la presencia de observadoras de derechos humanos en las actuaciones fronterizas y reivindican la necesidad de implementar "tecnologías auditables" y transparentes que siempre ofrezcan la información y pidan el consentimiento a los usuarios ante el uso de estos sistemas, "incluso si se llegan a aplicar y desplegar".

La filósofa Carissa Véliz explica por qué "no es demasiado tarde" para defender tu privacidad frente a las tecnológicas: 3 claves para hacerlo extraídas de su libro

"Para que la tarea de fiscalización y control por parte de la sociedad civil se pueda llevar a cabo de manera rigurosa, los procesos de diseño y pruebas de los sistemas, incluyendo las bases de datos utilizadas para calibrar los algoritmos, deben ponerse a disposición de auditorías independientes y personas afectadas", expone el texto.

El manifiesto destaca que "los duros controles fronterizos" son "espacios de potencial vulneración de derechos" que se agrava mediante el uso de tecnologías todavía no reguladas. La Secretaría de Estado de Digitalización e Inteligencia Artificial (SEDIA) dependiente del Ministerio de Asuntos Económicos quiere que España sea región piloto del Reglamento sobre la IA.

Sin embargo, Bruselas ya ha pedido tiempo a la SEDIA antes de poder desplegar ese piloto. De la misma manera, en el centro de las instituciones europeas se vive desde hace meses un intenso debate a instancias de organizaciones de ultraderecha, que exigen ampliar los usos del EURODAC, el 'almacén' de huellas dactilares para solicitantes de asilo.

Los riesgos para los derechos de los migrantes

Se trata de un debate por el cual Europa podría acabar blindando sus fronteras con las mismas tecnologías que pretende regular en sus países miembros. Organizaciones europeas en defensa de los derechos civiles ya expusieron que las personas migrantes "merecen el mismo nivel de amparo" que los ciudadanos europeos ante estas tecnologías, como recogió entoncesBusiness Insider España. 

Para las entidades firmantes del manifiesto que se lanza hoy el uso de tecnologías de vigilancia en las fronteras españolas en África podría impactar "en los derechos básicos" mediante la recopilación de datos biométricos, así como una consecuente violación de la privacidad de las personas que crucen dicha frontera.

"La recopilación de datos biométricos en personas sin pasaporte europeo no cumple con el principio de proporcionalidad. Estas personas se encuentran a menudo en situación de vulnerabilidad y no se tienen en cuenta las consecuencias no deseadas de disponer de unos datos biométricos de personas que no cuentan con mecanismos de protección, garantía, y reparación adecuados", inciden.

Las asociaciones remarcan que el empleo de esta frontera inteligente supone "un peligro discriminación y criminalización" a migrantes y la convierten "en un nuevo dispositivo racista dentro del Estado español".

"Es conocido que los algoritmos de reconocimiento facial suelen arrojar falsos positivos y falsos negativos en rostros no caucásicos, lo cual, en este contexto, podría suponer graves consecuencias para personas identificadas erróneamente como sospechosas", plantean.

"El uso de IA para el control fronterizo profundizaría la estigmatización y criminalización de grupos de personas que ya se encuentran en una gran situación de vulnerabilidad y exclusión".