Europa quiere evitar que el continente se convierta en un episodio de 'Black Mirror': así restringirá los usos de la IA para evitar sistemas de vigilancia indiscriminados

Cámara de reconocimiento facial en un autobús.
Cámara de reconocimiento facial en un autobús.
REUTERS/Eric Gaillard
  • La Comisión Europea presentará el 21 de abril la nueva regulación que será más restrictiva con determinados usos de la inteligencia artificial.
  • Se pretende implementar vetos y restricciones a sistemas de vigilancia indiscriminados o aplicaciones que puntúen el comportamiento social de los ciudadanos.
  • Descubre más historias en Business Insider España.

La Unión Europea presentará el próximo 21 de abril su propuesta para regular determinados usos y aplicaciones de la inteligencia artificial. El propósito es evitar sistemas de vigilancia indiscriminados o que el continente se convierta en un episodio de la serie Black Mirror.

Politico ha accedido a un borrador filtrado de la nueva regulación (que puedes consultar aquí) con la que la Comisión Europea pretende vetar ciertos usos "de alto riesgo" de los sistemas de IA, así como limitar otras aplicaciones o restringir su acceso al continente si no se cumplen unos estándares.

Las empresas que no asuman esos estándares se podrán enfrentar a multas de hasta 20 millones de euros o de un 4% de sus ingresos, destaca el citado medio. La norma también plantea la aparición de una entidad supervisora que será la que determine cuando el uso de un sistema de IA puede suponer un riesgo. Este organismo estará compuesto por especialistas de todos los países miembros.

Así utiliza la inteligencia artificial la Oficina Europea contra el Fraude para luchar contra la corrupción

El borrador de la regulación propone en su artículo 4 restricciones para casos de uso de la IA como los siguientes, según ha detallado The Verge:

  • Veto a la IA para "vigilancia indiscriminada", incluyendo sistemas que rastreen directamente a individuos en un espacio físico y cuente con datos agregados procedentes de otras fuentes.
  • Veto a la IA que cree puntuaciones o créditos sociales, que de facto suponga juzgar a alguien por su fiabilidad basada en su comportamiento y capacidad de predecir sus actos y comportamientos.
  • Autorizaciones especiales para sistemas de identificación biométrica en remoto, como los despliegues de sistemas de reconocimiento facial en espacios públicos.

En otras palabras: ni un gran hermano, ni una app con la que recibir Likes como en el famoso episodio de Black Mirror, Caída en picado.

La regulación también proyecta que los ciudadanos sean notificados siempre cuando estén interactuando con un sistema de inteligencia artificial, por evidente que sea por contexto o circunstancias.

"Las descripciones son vagas"

Aunque es solo de momento un borrador que ni siquiera se ha comunicado oficialmente, The Verge ya ha pulsado la opinión de especialistas como Daniel Leufer, analista político de Access Now. Leufer considera que las descripciones de los sistemas IA que se van a prohibir "son vagas", llenas "de un lenguaje que no es claro y que podría suponer muchos agujeros legales".

En otros términos se expresaba Omer Tene, vicepresidente de la ONG IAPP, Asociación Internacional de Profesionales de la Privacidad. En una serie de tuits, Tene consideraba que el nuevo reglamento que pretende poner coto a la IA recuerda en muchos puntos al RGPD, y que encarna el hábito de Bruselas: "Si tienes dudas con innovación y nuevas tecnologías, regula".

Europa se está quedando atrás en innovación en salud y perderá calidad de vida frente a China y Estados Unidos, según este ingeniero español

A finales de marzo algunos especialistas en sistemas IA lamentaron la posibilidad de que se explorase su regulación cuando, consideran, la tecnología "todavía está en pañales". "Nadie ha creado nada que pueda compararse con las habilidades de la inteligencia humana", zanjaba Neil Lawrence, profesor en la Universidad de Cambridge, en declaraciones a la BBC

"Son simplemente herramientas que toman decisiones con algoritmos".

En frente, varias voces han denunciado las aproximaciones que desde las instituciones europeas se han hecho a nuevas tecnologías de la vigilancia. En un reciente foro centrado en la privacidad, activistas del Viejo Continente advirtieron cómo la Comisión había financiado a través de diversas iniciativas desde "una máquina de la verdad" hasta una suerte de bot-agente fronterizo.

"La idea de una Europa fortaleza no es nueva", advertía Petra Molnar, investigadora de la York University de Toronto, Canadá. "Pero ahora nos enfrentamos a una tecnología expansiva que la convierte en un panóptico".

LEER TAMBIÉN: Microsoft comprará la firma de inteligencia artificial Nuance por casi 20.000 millones para reforzar la tecnología sanitaria

LEER TAMBIÉN: Neuralink, la empresa de Elon Musk, podría pasar de implantar chips en monos a hacerlo en humanos durante este año

LEER TAMBIÉN: Nasdaq e Intel se asocian en un nuevo tipo de cifrado que podría ser clave para acelerar la adopción de la inteligencia artificial y la tecnología de la nube en Wall Street

VER AHORA: Fuencisla Clemares, directora general de Google España: “Nuestro reto es seguir trabajando con las empresas y ciudadanos para acelerar la transformación digital en España”