60 organizaciones piden a España que subsane "graves deficiencias" en el Reglamento de la IA una vez asuma la presidencia del Consejo de la UE

España presidirá el Consejo de la Unión Europea desde el próximo 1 de julio. Resta poco más de un mes para que el Gobierno que dirige Pedro Sánchez suceda a Suecia al frente de este organismo comunitario, uno de los dos colegisladores de la Unión Europea junto al Parlamento Europeo.

Se da la circunstancia de que la Moncloa heredará de la anterior presidencia del Consejo un proyecto crucial de la legislatura comunitaria. La Comisión Europea presentó el borrador del Reglamento de la Inteligencia Artificial en abril del año 2021. Hace apenas unos días las comisiones de la Eurocámara dieron su visto bueno a su versión del documento.

Ahora es inminente que el Parlamento Europeo apruebe ya en pleno de forma definitiva el texto, que entonces tendrá que ser sometido a las negociaciones con el propio Consejo —ya ostentado desde Madrid— y la propia Comisión. Esos encuentros trilaterales son los conocidos trílogos, y fruto del consenso salen adelante los reglamentos europeos.

60 organizaciones de la sociedad civil, en su mayoría de origen español, pero con presencia también de entidades europeas, han presentado este miércoles por la mañana algunas de sus reivindicaciones de cara a la futura aprobación definitiva del texto legal. Se trata de una de las primeras cartas públicas que se dirigen a la inminente presidencia española del Consejo.

La secretaria de Estado de Digitalización, Carme Artigas, ya avanzó el pasado mes de marzo, en una entrevista con este medio, que España está lista para esa presidencia rotatoria del Consejo: "Ya lideramos los debates sobre telcos o sobre la ética en la inteligencia artificial", abundó entonces.

Habla la experta que denunció al Mobile World Congress, multado con 200.000 euros: "No entendía para qué quería una compañía mi pasaporte"

"Las organizaciones abajo firmantes le escribimos para llamar su atención sobre una serie de graves deficiencias en el Reglamento de Inteligencia Artificial que actualmente está siendo negociado por la presidencia sueca del Consejo de la Unión Europea y lo será próximamente por la presidencia española", arranca el escrito que se ha dado a conocer esta misma mañana.

La carta se basa "en la posición" que otras 123 organizaciones de la sociedad civil han consensuado y que piden a la Unión Europea en su conjunto "que ponga en primer plano un enfoque basado en los derechos fundamentales para el Reglamento de la IA". "Es un acto legislativo fundamental que tendrá un fuerte impacto en la población y, con toda probabilidad, más allá de nuestras fronteras".

"Algunas de nuestras preocupaciones se refieren a prácticas peligrosas que conducen a la vigilancia masiva sobre la población. Al fomentar la vigilancia masiva y amplificar algunas de las desigualdades sociales y desequilibrios de poder más profundos, los sistemas de IA están poniendo en grave peligro nuestros derechos fundamentales y los procesos y valores democráticos", continúa.

Entre las impulsoras están entidades como la Fundación Eticas, el Institut de Drets Humans de Catalunya, la federación catalana Lafede.cat, o el Observatorio de Trabajo, Algoritmos y Sociedad. En las firmantes hay siglas como Access Info, Amnistía Internacional, DigitalFems, EDRi, la Federación de Sindicatos de Periodistas o la Federación de Consumidores y Usuarios CECU.

Qué piden a la inminente presidencia española del Consejo

La carta pide, más concretamente, "una reunión de alto nivel con representantes de la sociedad civil antes del comienzo de la presidencia" para asegurar que en los trílogos "se refuercen y protejan adecuadamente los derechos fundamentales" en el futuro reglamento. 

También demandan "garantías" por parte del Gobierno español sobre "cómo espera que se consigan los más altos niveles de protección de los derechos fundamentales en el texto final del Reglamento de la IA".

La semana pasada las comisiones de la Eurocámara aprobaron su enfoque del Reglamento de la IA que tendrán que negociar con Consejo y Comisión. Lo negro sobre blanco de ese documento satisface a organizaciones como European Digital Rights, la EDRi, una federación de asociaciones y entidades europeas por los derechos digitales.

"Celebramos el veto absoluto a los sistemas de identificación biométrica en espacios públicos tanto en tiempo real como a posteriori y el veto de las políticas presciptivas o el reconocimiento de emociones, la categorización biométrica y otros sistemas de IA arriesgados e inaceptables", aducían hace poco en sus perfiles en redes sociales.

Sin embargo, a la EDRi no le satisfizo que muchas de las salvaguardas que se están negociando en Bruselas no apliquen igual precisamente a migrantes, que en los cruces de frontera se someterán a sistemas de reconocimiento biométrico similares.

Europa estudia blindar sus fronteras con las mismas tecnologías que quiere reguladas en su interior: "Los migrantes merecen el mismo amparo que cualquier otra persona"

Dado que el texto del Parlamento Europeo —pendiente de aprobación en pleno a lo largo de junio— puede variar con respecto al texto final, fruto de sus negociaciones con el Consejo y la Comisión, las 60 organizaciones de la sociedad civil que hoy dirigen su escrito a la futura presidencia española pormenorizan sus reivindicaciones en 5 puntos.

Piden, por ejemplo, "ampliar el listado de prohibiciones exhaustivas de aquellos sistemas de IA que supongan un 'riesgo inaceptable' para los derechos fundamentales", como esos sistemas de reconocimiento biométrico en espacios público, el uso de modelos de IA para realizar predicciones o evaluaciones de riesgo para prevenir delitos, o el uso de sistemas de reconocimiento de emociones.

También "eliminar cualquier tipo de discrecionalidad en el proceso de clasificación de sistemas de alto riesgo" del futuro artículo 6 del Reglamento de la IA, y exigir mayores estándares en la rendición de cuenta a los proveedores de IA de alto riesgo, así como transparencias sobre los usos públicos de sistemas de inteligencia artificial.

Por último, las organizaciones de la sociedad civil proponen que el futuro texto incorpore medidas para que los ciudadanos puedan ejercer sus derechos, por ejemplo con mecanismos de reparación "para empoderar a las personas afectadas por los sistemas de IA".

"Los estándares técnicos no deben tratar cuestiones relacionadas con derechos fundamentales y deben incluir más representatividad y diversidad de organizaciones de la sociedad civil en su elaboración", concluye. "Gran parte de la aplicación del reglamento dependerá del desarrollo de estándares técnicos y de su aplicación por parte de fabricantes".

"No está claro cómo esos estándares podrían impactar en los derechos fundamentales de las personas. Por ello, creemos necesario que los estándares técnicos no sean utilizados para evaluar la posible afectación sobre derechos fundamentales y que se pongan los medios y recursos necesarios para garantizar una mayor participación de la sociedad civil en esos procesos de estandarización".