Unidas Podemos pide en el Congreso garantías para que la IA que se instale en las fronteras de Ceuta o Melilla no genere sesgos raciales

Control de policía en la frontera de España por la pandemia del coronavirus

Unidas Podemos ha presentado una proposición no de ley que se debatirá en la próxima Comisión de Interior del Congreso de los Diputados y que insta al Gobierno a exigir "estándares técnicos" en los modelos de inteligencia artificial que se instalen en las fronteras de Ceuta y Melilla.

La PNL, que fue registrada este miércoles, espera recabar el apoyo del resto de fuerzas parlamentarias e instar así al Ejecutivo a garantizar esos estándares técnicos "que regulen el hardware y el software de las tecnologías de inteligencia artificial destinadas al reconocimiento facial en frontera, así como las destinadas a la gestión, clasificación y procesamiento de los datos".

Con ese requerimiento, que el Gobierno tendría que desarrollar en caso de que la PNL prospere y el Ejecutivo decida recoger la propuesta, se buscará evitar que los sistemas de IA que se acaben desplegando en frontera generen "sesgos discriminatorios en base a criterios de raza, etnia, género, religión o nacionalidad".

También que "no entrañen un riesgo para el ejercicio de las libertades civiles y políticas reconocidas" en el ordenamiento jurídico español. La PNL que suscribe Unidas Podemos también insta al Gobierno a "aplicar garantías de publicidad y transparencia en la contratación de las tecnologías de frontera inteligente".

No es la primera vez que se habla de inteligencia artificial en sistemas fronterizos. El reglamento sobre la inteligencia artificial, cuyo borrador ya presentó Bruselas en abril del año pasado, plantea en primera instancia que este tipo de modelos tecnológicos conllevan riesgos muy graves para los ciudadanos, por lo que en un principio estos estarían prohibidos dentro de la Unión.

Sin embargo, el Ministerio de Interior ha continuado con sus planes de desplegar este tipo de innovaciones tecnológicas en las verjas de las dos ciudades autónomas, las únicas fronteras terrestres que toda la Unión Europea tiene con África.

En enero de este mismo año, decenas de organizaciones en defensa de los derechos civiles reivindicaron en este manifiesto la necesidad de contar con observadores de derechos humanos en las actuaciones fronterizas e instalar únicamente tecnologías que puedan ser auditadas de forma efectiva.

"Los procesos de diseño y pruebas de los sistemas, incluyendo las bases de datos utilizadas para calibrar los algoritmos, deben ponerse a disposición de auditorías independientes y de las personas afectadas", incidía aquel manifiesto que firmaron plataformas como Oxfam Intermón, Lafede.cat o SOS Racismo.

Aunque el borrador del Reglamento de la IA que prepara Bruselas definía que tecnologías de reconocimiento facial podían ser de riesgo elevado para los ciudadanos, plataformas como European Digital Rights (EDRi) advertían que el texto, de no progresar, se limitaría a actuar únicamente en lo que ocurre dentro de sus fronteras.

En otras palabras: Europa pretende blindar sus fronteras con tecnologías que dentro de las mismas quiere mantener reguladas.

No es la primera vez que el despliegue de tecnología en pasos fronterizos causa polémica. Un periodista probó en 2019 un robot instalado en la frontera entre Serbia y Hungría que, ataviado de policía, era capaz de detectar, por los microgestos de la persona que cruzaba, si mentía o decía la verdad en el formulario de entrada al país.

La máquina dio un falso positivo: aseguró que el periodista mintió en sus respuestas a pesar de que decía la verdad. El dispositivo fue financiado con fondos europeos.

Europa estudia blindar sus fronteras con las mismas tecnologías que quiere reguladas en su interior: "Los migrantes merecen el mismo amparo que cualquier otra persona"

El año pasado el debate también se centró en una propuesta para reformar el EURODAC. El EURODAC es una suerte de almacén digital de huellas dactilares de solicitantes de asilo. Varias formaciones del Parlamento Europeo exigen desde hace meses ampliar los usos de este EURODAC para que guarde también las huellas de hasta niños de 6 años.

Hasta ahora ese almacén, cuya finalidad es evitar que un migrante pida asilo simultáneamente en más de un país europeo, se limita a almacenar datos biométricos de niños de más de 14 años. Con la propuesta que formaciones de extrema derecha hacen en las instituciones europeas ese mínimo caería hasta los 6 años, se introduciría el reconocimiento facial, y se usarían esos datos para más fines.

En su PNL, Unidas Podemos recuerda que "hasta el momento, el control de la frontera sur ha utilizado métodos alternativos para identificarse sin la necesidad de recurrir al registro y control masivo de datos biométricos".

El piloto español para el Reglamento de la IA, pendiente de fecha

No es la primera vez que Unidas Podemos lleva un tema sobre derechos digitales a las Cortes Generales. El parlamentario Ismael Cortés, de En Comú Podem, elevó a la Cámara Baja otra PNL en noviembre del año pasado. Esta instaba al Gobierno a promover "el desarrollo de estudios técnicos, éticos y jurídicos" para establecer una normativa sobre el uso de la IA en manos de la policía.

Eticas Consulting, una firma especializada en auditoría algorítmica, ya incluyó un algoritmo policial en su base de datos de este tipo de tecnología. Este algoritmo ayuda a la Policía Nacional a detectar si una llamada telefónica que denuncie algún ilícito es real o no, en base a parámetros como el tono de voz o la forma en la que la persona que denuncia por teléfono se expresa.

Sin embargo, la propia compañía advertía en su base de datos que un algoritmo como ese podía discriminar a personas que no conozcan bien el español o que tengan problemas al expresarse el mismo.

En aquel momento, Unidas Podemos pretendía que la IA en manos policiales no se utilizaran nunca con fines "discriminatorios" y propuso crear una Agencia Estatal de Control de Algoritmos. 

La propia Secretaría de Estado de Digitalización e Inteligencia Artificial (SEDIA), dependiente del Ministerio de Asuntos Económicos y Transformación Digital, ya está trabajando en la creación de dicha agencia. Sin embargo, el organismo todavía está en fase de análisis y desarrollo de los trabajos.

La misma Secretaría, que dirige Carme Artigas, ya propuso a España como región piloto en la que probar el próximo Regamento para la IA que se desarrolla a nivel comunitario. Fuentes de la Secretaría de Estado confirmaron a Business Insider España que se están definiendo las líneas del proyecto con la Comisión Europea y habrá que esperar a que el debate avance en la Eurocámara para ponerle fecha.

Otros artículos interesantes:

Los teléfonos de Macron, Charles Michel, el director general de la OMS o el rey de Marruecos aparecen en la lista de posibles víctimas del programa espía Pegasus

Jesús Gil puso en peligro la seguridad nacional al presentarse en Ceuta y Melilla: El Pionero estrena su último capítulo en HBO

Melilla, Extremadura y Andalucía copan 3 de las 6 regiones con más desempleo de toda Europa

Te recomendamos