La secretaria de Estado de Digitalización e Inteligencia Artificial en funciones, Carme Artigas, es una de las pocas personas en toda la Unión Europea que sabe cómo avanzan las negociaciones en trílogo para desbloquear el Reglamento de la Inteligencia Artificial. La esperada e inminente regulación comunitaria podría salir adelante este mismo año.

En una entrevista concedida al diario El País con motivo de su reciente nombramiento como copresidenta de un consejo de expertos de la ONU sobre IA, Artigas confía en que las negociaciones en trílogo —entre Comisión Europea, Consejo de la Unión Europea y Parlamento Europeo— sobre el texto puedan culminar con éxito antes de que acabe este 2023.

La Presidencia Española del Consejo comenzó en julio y terminará el 31 de diciembre de este año. El propósito de La Moncloa cuando asumió este cargo rotatorio entre los 27 fue dejar aprobada el Reglamento de la IA. Ahora Artigas confirma qué está ocupando "el centro del debate" en estas negociaciones: las excepciones a la prohibición de los sistemas de reconocimiento biométrico.

El Reglamento de la IA, cuyo borrador presentó la Comisión Europea en 2021, nació como un proyecto legislativo que ponía mucho el foco en los casos de riesgo o alto riesgo que podían entrañar los modelos de inteligencia artificial sobre los ciudadanos. Por ejemplo, el uso de sistemas de reconocimiento facial en espacios públicos.

Es el artículo 6 del reglamento el que estipula cuándo un sistema IA se considera de riesgo o no. Su debate continúa y está siendo muy polémico. En caso de que una IA se considere de alto riesgo, la herramienta tendrá que someterse a una serie de limitaciones y condicionantes que podrían entrañar incluso la prohibición de su comercialización en el espacio económico europeo. 

Según Artigas, Comisión, Parlamento y Consejo están "acercando muchas posiciones". "Hemos definido muy bien lo que son los sistemas de alto riesgo y empezamos a trabajar en este debate sobre qué son los usos prohibidos", cuenta a El País.

"El Parlamento dio una lista que nosotros vemos excesiva y que en algunos casos podrían ir en contra de la seguridad nacional de los estados. Estamos ahora definiendo qué garantías extraordinarias establecemos para que no pueda existir, por ejemplo, un abuso de poder por parte de un estado en la utilización de esas tecnologías", continúa.

El auge de la IA la ha traído la ciencia y la ingeniería, pero la industria va a desesperarse buscando a humanistas para poder tenerla bajo control

Confirma que ya hay una serie de prohibiciones consensuadas, como por ejemplo el scrapping de imágenes tomadas por cámaras de videovigilancia o los sistemas "de calificación de crédito social". "Estamos viendo si encontramos el punto adecuado en el reconocimiento biométrico, exceptuando algunos casos, como su utilización en la investigación de ciertos crímenes graves".

"Nadie quiere que haya un abuso de esas técnicas por parte de la policía o de los gobiernos. Si hacemos esto, tenemos que ofrecer garantías extras de control. Este es ahora el centro del debate, pero no podemos revelar cuál es la solución que estamos buscando. Se está trabajando a nivel jurídico, técnico y político", asevera la secretaria de Estado en funciones.

Explica Artigas que ahora las negociaciones también se centran en definir "qué garantías extraordinarias" se despliegan "para que no pueda existir, por ejemplo, un abuso de poder por parte de un estado en la utilización de esas tecnologías". "Tenemos que poner límites, pero a la vez favorecer y no ahuyentar la innovación, y ese equilibrio es difícil", reconoce a El País.

Artigas, como secretaria de Estado de Digitalización e IA en funciones, es la que está liderando estas negociaciones por parte del Consejo de la Unión Europa. Es una incógnita lo que sucederá en caso de que el PSOE logre la investidura en los próximos días y en cuestión de semanas se forme un nuevo Ejecutivo.

Las negociaciones del Reglamento IA de la Unión Europea se vieron sorprendidas a finales del año pasado por el fulgor que los modelos fundacionales —IA generativa, como ChatGPT— empezaron a mostrar en el mercado. "Debemos decidir qué requisitos le pedimos a los sistemas de alto riesgo y qué requisitos de transparencia le pedimos a los modelos fundacionales".

Sobre cómo abordar la regulación de esta tecnología a nivel global, lo que estudiará desde el nuevo grupo de trabajo de la ONU, Artigas confía en aproximaciones similares al panel científico del cambio climático. "El IPCC es un buen punto de partida, pero necesita mejoras". 

Buscan un mecanismo "que no sea tan complejo de mantener como una agencia internacional" pero que siga teniendo contacto con el mundo de la investigación: "La IA está evolucionando muy rápido".