Las fronteras 'inteligentes' de Ceuta y Melilla empezarán a hacer controles de reconocimiento facial a partir de mayo de 2023

El Gobierno ha aclarado que el nuevo sistema de entradas y salidas del espacio Schengen que se impulsa desde Bruselas entrará en vigor en mayo de 2023, con lo que a partir de esa fecha los controles fronterizos con España hacia fuera de la Unión Europea incluirán, entre otras novedades, un sistema de reconocimiento facial.

Los sistemas de reconocimiento facial son modelos de inteligencia artificial con biometría que pueden provocar discriminaciones algorítmicas, en tanto que estos sistemas han dado muchos falsos positivos, sobre todo con personas de etnias no caucásicas.

Sobre esto, el Ejecutivo ha aclarado que el modelo será auditado con los mecanismos que ya contempla el Reglamento europeo 2017/2226, que estipula la puesta en funcionamiento de este "sistema informático automatizado para el registro de las entradas y salidas de los viajeros de terceros países en las fronteras exteriores".

Lo ha hecho a través de una respuesta a una pregunta parlamentaria formulada por los diputados Ismael Cortés y Enrique Santiago, de Unidas Podemos. El Gobierno detalla, en su escrito, que este sistema debe implementarse "en todas las fronteras exteriores de España", "44 aeropuertos, 33 puertos y 4 fronteras terrestres", entre ellas los pasos fronterizos de Ceuta y Melilla.

Europa estudia blindar sus fronteras con las mismas tecnologías que quiere reguladas en su interior: "Los migrantes merecen el mismo amparo que cualquier otra persona"

La entrada en funcionamiento de este nuevo sistema ya puso en alerta a decenas de organizaciones y colectivos sociales, que a principios de este año exigieron derogar el uso del reconocimiento facial y limitar el uso de la IA en fronteras ante la posibilidad de que se lesionen "derechos fundamentales", como expresaron en un manifiesto conjunto.

De hecho, el mismo grupo confederal presentó una proposición no de ley (PNL) en el Congreso con la que se instaba al Gobierno a evitar desplegar tecnologías que generen "sesgos discriminatorios en base a criterios de raza, etnia, género, religión o nacionalidad" o que entrañen "un riesgo para el ejercicio de las libertades civiles y políticas reconocidas".

El control fronterizo es competencia del Ministerio de Interior que dirige Fernando Grande-Marlaska, un ministro muy cuestionado por investigaciones periodísticas que han profundizado en lo que sucedió en la frontera de Melilla el pasado 24 de junio, cuando murieron al menos 23 personas.

Cuánto tiempo y dónde se almacenarán los datos de las personas que se sometan a estos reconocimientos faciales

El nuevo Sistema de Entradas y Salidas —EES, por sus siglas en inglés— registrará los datos de todas las personas extranjeras de la Unión Europea que entren o salgan del espacio Schengen. 

Esos datos se almacenará en un sistema central. El reglamento de 2017 estipula que cuando una persona extranjera salga de la UE —o se le deniegue su entrada—, pasarán 3 años hasta que se eliminen sus datos. Si no consta la salida de una persona una vez superado el tiempo de estancia autorizado, los datos permanecerán en el sistema 5 años a contar desde ese momento.

Entre los datos que serán almacenados están la huella dactilar o por ejemplo la fotografía que se tomará de las personas que crucen el paso fronterizo, que se comparará con la imagen que aparece en sus pasaportes. El Gobierno aclara que será una agencia europea la encargada de ofrecer una herramienta para evaluar "la calidad" de esas imágenes.

Europa quiere ser la vanguardia ética de los algoritmos, pero tiene un oscuro pasado: así son las IA financiadas por Bruselas que ya pueden generar discriminación

Será la Agencia Europea para la Gestión Operativa de Sistemas Informáticos de Gran Magnitud en el Espacio de Libertad, Seguridad y Justicia, la eu-LISA. La herramienta con la que eu-LISA puntúa la 'calidad' de la foto de una cara no se tendrá en cuenta en el algoritmo que comparará dichas imágenes con las del pasaporte. "Los parámetros exclusivamente son de calidad de imagen".

Sin embargo, que se evalúe la calidad de la imagen tomada en el paso fronterizo no minimiza demasiado los riesgos de que el modelo algorítmico no tome decisiones erróneas por tener sesgos sociotécnicos, como han advertido en múltiples ocasiones especialistas. Un falso positivo puede provocar que una persona no pueda entrar en Schengen a pesar de estar en derecho de hacerlo.

"Con respecto a los mecanismos de auditoría, se informa que el propio sistema central a nivel europeo ya los contempla", resume Interior en su respuesta parlamentaria.

El papel de la futura Agencia de Supervisión de la IA y las empresas tras las "fronteras inteligentes"

Con todo, el mismo escrito recuerda que "España se convertirá en el primer país de la Unión Europea con una Agencia Estatal de supervisión de la Inteligencia Artificial, anteponiéndose a la entrada en vigor del futuro Reglamento europeo de IA, que establece la necesidad de que los Estados miembros cuenten con una autoridad supervisora en esta materia".

Sin embargo, esta Agencia, la futura AESIA, todavía tiene que encontrar sede y detallar su potestad sancionadora en sus futuros estatutos. "Las funciones que finalmente asumirá la Agencia serán determinadas en la ley que establezca su creación", reconoce la respuesta en el Congreso.

Las fronteras inteligentes que se están desplegando en Ceuta y Melilla suponen un coste de en torno a 10 millones de euros. Las empresas responsables de la misma son NTT Spain, como encargada de desarrollar el sistema central nacional que Interior conectará con la base de datos europea, y Thales junto a Zelenza como las que instalarán "las cabinas de los filtros fronterizos".