China se adelanta a Europa y publica unas directrices éticas para regular los modelos de inteligencia artificial

Pruebas de reconocimiento facial a un maniquí con mascarilla durante la crisis del COVID-19 en China.
Pruebas de reconocimiento facial a un maniquí con mascarilla durante la crisis del COVID-19 en China.
REUTERS/Thomas Peter
  • El Gobierno de Xi Jinping ha publicado este fin de semana unas directrices para garantizar el despliegue de modelos de IA éticos a lo largo del gigante asiático.
  • La potencia busca convertirse en líder en sistemas de inteligencia artificial para 2030, y con este documento adelanta a la Unión Europea.
  • Descubre más historias en Business Insider España.

El Ministerio de Ciencia y Tecnología chino ha publicado unas directrices éticas con las que regularán los modelos de inteligencia artificial (IA). Los usuarios contarán con plenos derechos para aceptar y rechazar el servicio de una IA, así como para cesar sus interacciones y operaciones a placer con uno de estos sistemas en el momento en el que lo deseen.

De esta manera Pekín se adelanta a la Unión Europea, que lleva meses defendiendo la necesidad de contar con unos desarrollos de la IA que pongan al humano en el centro. La Comisión presentó en abril de este mismo año un borrador para un Reglamento sobre la IA. España se ha propuesto para realizar un piloto de este reglamento, y agentes del sector privado se han postulado ya al mismo.

Según desgrana The South China Morning Post, con las directrices que ha publicado el Gobierno de Xi Jinping los humanos tendrán un "pleno poder de decisión". Este marco ético al que se tendrán que atener los modelos de IA funcionales o en desarrollo también se alinean con los objetivos del gigante asiático: China quiere ser líder en inteligencia artificial para 2030, recuerda el diario.

La premisa de la que parten estas directrices es clara: "Asegurarse que la IA siempre está bajo el control de los seres humanos". Rebecca Arcesati, analista en un think tank alemán llamado Mercator Institute for China Studies, explica en The South China Morning Post que esta es la primera aproximación del gobierno chino hacia la consecución de una IA ética.

Europa estudia blindar sus fronteras con las mismas tecnologías que quiere reguladas en su interior: "Los migrantes merecen el mismo amparo que cualquier otra persona"

El documento se ha bautizado como Especificaciones Éticas para Inteligencias Artificiales de Nueva Generación y lo ha publicado, todavía como borrador, una comisión del Ministerio de Ciencia y Tecnología chino que se constituyó en febrero de 2019. En junio de aquel año, esta comisión ya publicó un primer documento con algunas directrices algo más escuetas de las conocidas ahora.

En seis puntos diferenciados, el nuevo documento del régimen chino enfatizan en la importancia de que los modelos de IA sean "controlables" y "fiables". Otros de los principios mentados en el texto plantean la necesidad de que esta tecnología se emplee para mejorar el bienestar humano, promover la transparencia y la justicia o proteger la privacidad y la seguridad.

Arcesati enfatiza en declaraciones a The South China Morning Post que la publicación de estas directrices es "un claro mensaje" a los gigantes tecnológicos como las estadounidenses Amazon, Facebook o Google. Sobre todo, a aquellas compañías que "han basado su modelo de negocio en algoritmos de recomendación".

Estas directrices también plantea la necesidad de evitar riesgos innecesarios en la aplicación de estas IA garantizando que las mismas no tienen vulnerabilidades ni brechas de seguridad, así como que no se empleen en actividades ilegales o ilícitas que puedan comprometer o "la seguridad nacional" o "el interés general".

Hace escasos días, en un foro de especialistas en sistemas de IA, Gemma Galdon, fundadora y directora de Eticas, nombre que recibe tanto una consultora como una fundación que se dedica a la auditoría algorítmica, hizo algunos apuntes sobre la encrucijada europea y la necesidad de que la Administración Pública cuente con algoritmos éticos.

El despliegue de un sistema de reconocimiento facial en Serbia dispara las alarmas en Europa, donde activistas recogen firmas para vetar esta tecnología

En su intervención, Galdon recordaba que uno de los principales desafíos que obstaculizaba el despliegue de sistemas de IA éticos es un fallo de mercado: se intenta escalar el mismo software a todo tipo de cliente. Además, recordaba que el mercado tecnológico sigue orientado a atender consumo, y no a resolver los auténticos problemas sociales.

En esa encrucijada, y frente al modelo de tecnología de consumo que encarna Silicon Valley, Galdon expuso también cuál es la alternativa que se están dando en otros bloques del planeta: el despliegue de sistemas tecnológicos con fines autoritarios, con sistemas de IA diseñados para garantizar grandes plataformas de vigilancia masiva.

Activistas en Europa, entre tanto, siguen demandando a la Unión que prohíban plataformas de vigilancia masiva mediante reconocimiento facial en su futuro Reglamento sobre la IA.

Otros artículos interesantes:

España ultima su observatorio para analizar el impacto social de los algoritmos y se postula como país piloto para probar el futuro reglamento europeo de la inteligencia artificial

La regulación europea para la IA se convertirá en un estándar global, pero tiene un riesgo: dejar atrás a pymes y startups que la usen, según expertos

El Comité Europeo de Protección de Datos insta a la UE a prohibir los sistemas de reconocimiento biométricos en el espacio público

Te recomendamos

Y además