Colectivos sociales presentarán al Gobierno un documento de mínimos para que la futura Agencia de Supervisión de la IA no acabe siendo un ente descafeinado

Varios colectivos sociales han celebrado las primeras jornadas Democracia, Algoritmos y Resistencias (DAR) entre Madrid y Barcelona, de las que ha emanado un documento de mínimos que esperan que la futura Agencia de Supervisión de la Inteligencia Artificial cumpla. Por ello, solicitarán reuniones con grupos parlamentarios y con la Secretaría de Estado de Digitalización e IA.

Lo que estas organizaciones pretenden elevar al departamento que dirige Carme Artigas es la necesidad de que esa futura agencia, presupuestada para este año pero que podría ver la luz tan pronto como llegue el año que viene, cuente con las competencias y las capacidades necesarias para que no se convierta en un ente descafeinado que no logra colmar sus propios objetivos.

Entre esas demandas destacan "la independencia" de la futura Agencia así como su capacidad "sancionadora" para que tenga "un rol de asesoría del Gobierno" en materia de IA, así como la necesidad de que cuente con "un registro público de algoritmos tanto del sector público como del sector privado".

Al mismo tiempo, inciden en que la agencia "cree estándares y establezca especificaciones sobre el uso de la IA" y que funcione como una ventanilla única en la que los ciudadanos puedan denunciar errores, malas prácticas o malos usos de esta tecnología.

Por todo ello, los colectivos sociales, entre los que destacan AlgoRace, Algorights o Lafede.cat (organizadoras de estas jornadas) han planteado "la incorporación y participación en el diseño y en el despliegue de la agencia" de esas "organizaciones de la sociedad civil y las comunidades afectadas por la automatización de servicios públicos y privados".

Más de 40 organizaciones exigen derogar el reconocimiento facial y controlar el uso de la IA en las fronteras de Ceuta y Melilla por los riesgos a los derechos fundamentales

Son las principales conclusiones que se han alcanzado al término de estas jornadas, en las que han participado más de 300 personas durante tres días de debates, conferencias y talleres. Las entidades organizadoras elevarán ese documento de mínimos a los grupos parlamentarios y solicitarán una reunión a la Secretaría de Estado de Digitalización e Inteligencia Artificial de Carme Artigas.

Estas organizaciones confían en que esa reunión entre ellas y la propia SEDIA tendrá lugar en otoño de este mismo año. "No descartan otras acciones en los próximos meses con las que avivar el debate en torno al uso de la inteligencia artificial y su democratización, cuya regulación se discute ahora mismo en Europa", explican los organizadores de las jornadas en una nota de prensa.

Algunas de las cuestiones tratadas en estas jornadas han versado sobre la definición de uso de "alto riesgo" que puede tener la IA, un concepto que aparece ya en el borrador del futuro Reglamento de la Inteligencia Artificial que se está cocinando en Bruselas. También se abordaron otros debates, como la implantación de estas tecnologías en tránsitos fronterizos, un tema que ya llegó al Congreso.

El Gobierno cuenta en sus actuales Presupuestos Generales del Estado con la creación de esta nueva Agencia. No obstante, desde la Secretaría de Estado de Digitalización e Inteligencia Artificial ya han deslizado en alguna ocasión que la ley que creará formalmente esta nueva estructura llegaría después de verano, con lo que supuesta en marcha definitiva podría darse en 2023.

Entre tanto, el debate, además de sus usos, competencias y posibilidades, es dónde estará. Ahora mismo hay varias candidatas para convertirse en anfitrionas de esta nueva institución del Estado: Galicia y Granada. Además, las grandes tecnológicas ya se han posicionado con una y otra de las postulantes.