La Eurocámara aprueba su propuesta final del Reglamento de la IA incluyendo la prohibición del reconocimiento facial en espacios públicos
REUTERS/Amir Cohen
- Los eurodiputados ya votaron en comisiones parlamentarias una aproximación final del texto que contenta a organizaciones sociales como Amnistía Internacional.
- Con todo, expertos y activistas han advertido en las últimas semanas que la votación de este miércoles era clave por lo que había en juego.
Este miércoles el Parlamento Europeo ha fijado su propuesta final para el Reglamento de la Inteligencia Artificial, una de las normas más esperadas de la legislatura comunitaria. Lo ha hecho después de que los eurodiputados de las dos principales comisiones que han seguido el proceso legislativo ya aprobasen un borrador el pasado mes de mayo.
Finalmente, la norma ha salido adelante sin separarse de lo que ya se fijó en comisión en mayo, y el Reglamento de la Inteligencia Artificial que propone la Eurocámara vetará el despliegue de modelos de reconocimiento facial en los espacios públicos. Algunas enmiendas que planteaban excepciones a ese veto han sido finalmente rechazadas.
Esto no es el fin del camino para la norma que anhela convertirse en un nuevo estándar global para el despliegue de modelos de inteligencia artificial, como ya lo intentara el Reglamento General de Protección de Datos en el ámbito de la privacidad en línea. Ahora arrancarán los trílogos para consensuar la versión final con el otro colegislador, el Consejo de la Unión Europea.
En España se empezará a probar de manera inédita este reglamento gracias a un sandbox regulatorio que el Gobierno ya está poniendo en marcha. Precisamente será La Moncloa la encargada de dirigir el debate en nombre del Consejo en esos trílogos, dado que la presidencia española arranca en julio.
El Reglamento de Inteligencia Artificial que propuso la Comisión en 2021 planteaba que ningún sistema de IA está exento de riesgos, y aquellos que por su naturaleza entrañen mayores desafíos serán directamente vetados.
Como en todo proceso legislativo comunitario, antes de llegar a trílogo la Eurocámara y el Consejo deben llegar a sus conclusiones de forma independiente. La irrupción el pasado mes de noviembre de ChatGPT de OpenAI puso de relieve los desafíos que suponen los modelos de IA generativa para el texto, con lo que en ambas instituciones se abordó también el encaje de estos sistemas.
En el caso del Parlamento, el auge de estos sistemas queda recogido de la siguiente forma: estos modelos deberán asumir una serie de requisitos adicionales, como por ejemplo aquellos relacionados con la transparencia del material con el que los modelos han sido entrenados, e indicar si ese material estaba protegido con derechos de autor o propiedad intelectual.
Estos requisitos adicionales no sentaron bien a uno de los mayores lobbys de la industria tecnológica, CCIA Europe, que pidió entonces que los eurodiputados mantuviesen "el enfoque original basado en riesgos" que incluía el borrador de reglamento que presentó la Comisión en 2021.
Uno de los ponentes alternativos de la norma en la Eurocámara es el eurodiputado español Ibán García del Blanco, que ha seguido la tramitación parlamentaria del texto desde la Comisión de Asuntos Legales del Parlamento.
En una reciente entrevista, García del Blanco planteó que las empresas responsables de estos sistemas deben ser "conscientes de la magnitud y de la potencia que tienen sus propias herramientas". "Creo que de hecho lo son: los avisos que muchos desarrolladores nos hacen lo pone de manifiesto", indicó entonces.
La controversia por el reconocimiento facial en espacios públicos
Aunque el primer paso en la Eurocámara se produjo el pasado 11 de mayo, cuando los eurodiputados de varias comisiones parlamentarias aceptaron varias enmiendas que blindaban algunos vetos —por ejemplo, a los modelos de reconocimiento facial en vía pública—, muchos organismos advirtieron en los últimos días de las posibilidades de que estos articulados pudiesen decaer este miércoles.
"Existe el riesgo de que el Parlamento acabe con importantes protecciones en materia de derechos humanos conseguidas durante la votación de la Comisión", exponía recientemente Mher Hakobyan, uno de los asesores de Amnistía Internacional, en este comunicado. "Abrirá así la puerta al uso de tecnologías que entran en conflicto directo con el derecho internacional de los derechos humanos".
Lafede.cat, una coordinadora de más de un centenar de organizaciones civiles afincadas en Cataluña, lanzó hace unos días una campaña animando a la prohibición de los sistemas de reconocimiento facial. La campaña es un vídeo en el que explica los riesgos de que esta tecnología no acabe reglada tal y como se plantea en el reglamento.
"La federación pide su prohibición total [del reconocimiento facial] en el espacio público y sin excepciones, en la misma línea que defienden organizaciones europeas de defensa de derechos digitales como EDRi y Access Now. De hecho, desde la ONU también se ha alertado acerca de esta afectación democrática y de derechos que puede tener esta tecnología".
El spot de la campaña, titulada Sospechosas por la Cara, lo puedes consultar aquí.
En ese sentido, otras de las organizaciones que participan de esta campaña es el colectivo en defensa de los derechos digitales X.net, que este lunes 12 de junio sintetizaba en una publicación en redes sociales la orientación del voto que esperan de los parlamentarios europeos de diversas enmiendas que se podrían aprobar este miércoles en el Pleno europeo.
En ese sentido, X.net ponía el foco en 3 enmiendas presentadas por el Partido Popular europeo. Son las enmiendas 800, 801 y 802, que son aquellas que abren la puerta al uso de sistemas de reconocimiento facial en el espacio público autorizadas por los Estados miembros en los que se aplicará este reglamento para casos excepcionales. Finalmente no han salido adelante.
Las organizaciones críticas con este caso de uso de los modelos de inteligencia artificial —reconocimiento facial— advierten de que los avances en este campo todavía no han supuesto una tasa elevada de eficacia en todos los casos.
Por ejemplo, señalan cómo estos sistemas son más eficaces al identificar rostros de hombres blancos, pero su margen de error crece cuando trata de identificar a personas racializadas.
Lafede.cat, en ese sentido, enfatizaba en un comunicado remitido a los medios que estos reconocimientos faciales pueden provocar que los ciudadanos cambien y repriman sus comportamientos al saberse vigilados. "Esto pone limitaciones a la autonomía de las personas y al disfrute de espacios públicos".
"Además, hay casos documentados de que esta tecnología puede amplificar sesgos y discriminaciones contra minorías y grupos vulnerabilizados, como las personas racializadas. Las organizaciones sociales instan a garantizar, de manera especial, los derechos de las personas migrantes", abundan.
Otros artículos interesantes:
Descubre más sobre Alberto R. Aguiar, autor/a de este artículo.
Conoce cómo trabajamos en Business Insider.