El uso de modelos de inteligencia artificial en entornos tan delicados como los pasos transfronterizos vuelve al Congreso de los Diputados. 

Las diputadas de Sumar Tesh Sidi y Gala Pin han presentado en la Cámara una nueva pregunta que el Gobierno. Quieren saber qué está haciendo la Presidencia Española del Consejo de la Unión Europea para incorporar las demandas que varios colectivos de la sociedad civil vienen haciendo desde hace meses sobre la futura regulación europea de la IA.

Sidi, la parlamentaria de origen saharaui de Más Madrid, y Pin, exconcejala de Barcelona y diputada de En Comú Podem, ambas del grupo parlamentario Sumar, quieren saber qué medidas está considerando el Ejecutivo "para abordar las preocupaciones relacionadas por el uso de la IA en aplicaciones como el control de la migración y la seguridad nacional".

En concreto, cuestionan qué esfuerzos se están llevando a cabo desde el Gobierno para que en esos casos de uso el empleo de esta tecnología se atenga a la "protección de los derechos fundamentales". "¿Se ha reunido el Gobierno con las entidades que velan por una IA inclusiva, respetuosa con los derechos humanos y basada en el interés general?", inciden.

"¿Cómo tiene previsto el Gobierno que las demandas de las entidades de la sociedad civil defensoras de los derechos humanos sean incorporadas en la regulación sobre la inteligencia artificial?", amplían las diputadas, en una pregunta que el Ejecutivo en funciones de Pedro Sánchez deberá contestar por escrito en las próximas semanas.

En el preámbulo de la pregunta, las parlamentarias enfatizan que la Presidencia Española del Consejo de la UE ostenta un "papel crucial" para que Europa sea "un referente a nivel mundial en lo que a la regulación de la IA con respeto a los derechos humanos, la inclusión de la participación ciudadana, los modelos tecnológicos distribuidos y el fomento de la innovación se refiere".

El Reglamento de la IA puede decepcionar: así se organiza ya parte de la sociedad civil para combatir los efectos más nocivos de esta tecnología

El escrito incluye varias demandas que colectivos han hecho llegar al Ejecutivo en los últimos meses con respecto al futuro Reglamento de la IA. 

Esas demandas se sintetizan en 3 puntos: prohibir casos de uso de IA "que representen un riesgo inaceptable para los derechos fundamentales", elaborar un listado de casos de uso de la IA en el control migratorio y promover "transparencia y supervisión" de dichos modelos.

Muchas de las organizaciones y colectivos sociales que Sidi y Pin citan en su pregunta —AlgoRace, Access Now— ya pidieron el año pasado que el Gobierno contara con ellas para diseñar la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA). Para ello, la secretaria de Estado de Digitalización, Carme Artigas, llegó a recibir a varias personas de estas organizaciones.

Sin embargo, el Gobierno no concretó ni recogió muchas de esas demandas y se acercó a grandes consultoras como Deloitte para diseñar el organismo que velará por el cumplimiento del futuro reglamento en España.

No es la primera vez que el uso de la IA en pasos fronterizos y en controles migratorios llega al Congreso de los Diputados. Ya en marzo del año pasado diputados de Podemos como Ismael Cortés presentaron preguntas parlamentarias con el mismo enfoque.

Se da la circunstancia de que en estos momentos se está celebrando un nuevo trílogo —reuniones formales entre Consejo, Parlamento y Comisión— para alcanzar un acuerdo en torno al texto definitivo del inminente Reglamento de la IA. 

Este mismo martes, el comisario europeo de Mercado Interior, Thierry Breton, ha dado cuenta del debate técnico que se vive ahora mismo en este trílogo en torno a los modelos fundacionales —la popular IA generativa— y cómo esta deberá ser regulada en toda la zona euro.