Más de 50 organizaciones sociales reclaman al Gobierno participar en el diseño de la futura Agencia de Supervisión de la Inteligencia Artificial

Más de medio centenar de colectivos sociales, muchos de ellos con implicación y trayectoria en el ámbito de los derechos digitales, han elevado este jueves una carta abierta dirigida al Gobierno de España. En ella, exigen al Ejecutivo que se les permita participar en el diseño y creación de la futura Agencia Española de Supervisión de la Inteligencia Artificial (AESIA).

El pasado martes el Consejo de Ministros dio inicio al procedimiento por el cual una Comisión consultiva interministerial definirá los requisitos que deberá reunir la futura sede de la AESIA. En el plazo de un mes se conocerán esos requisitos y durante varias semanas ayuntamientos, diputaciones y comunidades autónomas podrán postularse para acoger a este nuevo organismo.

Se trata de la primera entidad que hará uso del decreto que aprobó el Gobierno en marzo para descentralizar instituciones del Estado. La AESIA se ubicará en algún lugar del territorio nacional, pero no en Madrid. La Secretaría de Estado de Digitalización e Inteligencia Artificial (SEDIA) del Ministerio de Asuntos Económicos lleva meses trabajando en la creación de la AESIA.

Una AESIA que ya forma parte de los presupuestos generales de este año y que podría ver la luz tan pronto como a finales de este 2022. El organismo nacerá con un personal de unas 40 personas y el propósito de ser el organismo que atienda los despliegues de inteligencia artificial tanto en el sector público como en el privado, para procurar que esos modelos no discriminen ni vulnerabilicen a nadie.

En tanto que esta AESIA nace, España pondrá en marcha un piloto del futuro Reglamento de Inteligencia Artificial europeo, que todavía se está discutiendo en Bruselas. La intención del Gobierno es que España sea, de esta manera, un país vanguardista en la regulación de los algoritmos.

La despoblación, uno de los grandes argumentos para descentralizar el Estado, pasa a segundo plano en la búsqueda de sede para la Agencia de Supervisión de la IA

Pero los colectivos sociales que han impulsado esta carta, Lafede.cat, Fundación Eticas, Civio, el Observatorio de Trabajo, Algoritmos y Sociedad, Algorights, Algorace o Komons, entienden que es indispensable para el éxito de la AESIA que el organismo nazca con sus ideas y sugerencias. Ya en mayo remitieron otra carta con otra batería de ideas.

La Fundación Eticas que lidera Gemma Galdon es un ejemplo de la experiencia que muchos de estos colectivos tienen en el ámbito de la ética tecnológica. Eticas creó hace un año un registro de algoritmos, el Observatorio de Algoritmos de Impacto Social (OASI). En su reciente primer informe anual, Eticas analiza 113 modelos informáticos y sus potenciales riesgos sociales.

Otra organización impulsora del documento es Algorace, otro colectivo que nació hace unos meses con el foco puesto en las discriminaciones raciales que muchos modelos de IA generan. Por ejemplo, el uso de tecnologías biométricas (huellas dactilares o incluso reconocimiento facial) en controles fronterizos.

La carta apunta que "no se entendería" que el Gobierno "perdiera la oportunidad que le ofrecen las organizaciones de la sociedad civil para crear una agencia a la altura de los retos que tenemos hoy en día".

Por eso, le instan a aprovechar "la oportunidad de contar con el conocimiento y la experiencia" de dichas organizaciones "en el proceso de diseño, creación y establecimiento de objetivos y fines de la AESIA".

Más de 40 organizaciones exigen derogar el reconocimiento facial y controlar el uso de la IA en las fronteras de Ceuta y Melilla por los riesgos a los derechos fundamentales

También plantean que la futura agencia ejerza "una supervisión prudencial" que garantice "la equidad de los procesos algorítmicos", "la responsabilidad ante sus impactos negativos o discriminatorios" y "su transparencia". "La acción de la AESIA debe proyectarse principalmente sobre las entidades públicas y privadas que desarrollen e implementen algoritmos".

Además, inciden en que la AESIA sea "un organismo independiente en su estructura, composición y cometido" y que promueva "la transparencia, auditabilidad y explicabilidad de los algoritmos y sistemas de información ante la sociedad, mediante herramientas e información de fácil consulta y comprensión".

En definitiva, tanto las organizaciones impulsoras como las más de 50 adhesiones reclaman "una estrategia de participación clara de la sociedad civil" que esté establecida "en los procesos y en el desarrollo de las políticas relacionadas con la IA, así como vías formales de interlocución con el Gobierno con el fin de promover un debate público sobre la gobernanza de los algoritmos".

Un debate público, enfatizan, "que ponga en el centro el respeto a los derechos humanos y a la justicia social". "Estamos en un momento crucial donde la IA determina la automatización de la sociedad, el rumbo de las democracias y el bienestar de la población".

"La complejidad técnica de los procedimientos algorítmicos, junto con su impacto social, requiere una respuesta transversal, multisectorial y participativa de la sociedad".

Además de las organizaciones impulsoras, entre las adhesiones se encuentran entidades como XNet, ArsGames y entidades internacionales como StateWatch o la European Digital Rights (EDRi).