La apuesta por la IA en el plan de recuperación puede generar más de 3.000 millones de euros de riqueza, pero algunos de sus pliegos nacen desfasados según alertan varias expertas

Un robot en un quirófano

REUTERS

  • El plan de recuperación de España destinará 500 millones de euros para fomentar la IA y espera un retorno de 3.000 millones sobre el PIB.
  • Sin embargo, algunas especialistas consideran que muchos de sus puntos están desfasados y que es necesario incluir un enfoque más centrado en la formación.
  • Descubre más historias en Business Insider España.

El Gobierno liberó el miércoles pasado los mecanismos de los que se dotará el Plan de Recuperación, Transformación y Resiliencia contra el COVID-19 que regará la transición ecológica y la digitalización españolas de fondos europeos. Los documentos ya están en Bruselas y una vez hechos públicos, ha llegado la hora de detectar cuáles son las principales amenazas y desafíos de los proyectos.

El componente 16 recibe el título de Estrategia Nacional de Inteligencia Artificial, un documento que en realidad el propio Pedro Sánchez dio a conocer en diciembre del año pasado. Es fruto del trabajo de la Secretaría de Estado de Digitalización e IA dependiente del Ministerio de Asuntos Económicos y Transformación Digital que encabeza la ministra Nadia Calviño.

Pero esta estrategia, que recibe el acrónimo de ENIA, no se pondrá en marcha hasta ahora, cuando el componente 16 del plan de recuperación español contempla una inversión de 500 millones de euros (el 0,7% de 72.000 millones de fondos europeos que llegarán al país). Según el mismo documento, que se puede consultar aquí, el Gobierno estima que por cada euro público que se invierta, el sector privado invertirá otros 3.

En otras palabras, de los 500 millones de euros presupuestados la inversión en materia de inteligencia artificial se podría disparar hasta los 2.000 millones de euros contando la inversión privada. Todo, al menos, durante los años 2021, 2022 y 2023. Por esa razón, el Gobierno tiene la previsión de que el plan puede generar, en este ámbito, "un impacto en la riqueza de España cercano a los 3.171 millones de euros sobre el PIB".

Además, el mecanismo prevé crear o mantener una media de cerca de 16.000 puestos de trabajo, al menos durante los años que se realicen estas inversiones (hasta 2023). "Llegándose solo en el año 2021 a necesitar 29.000 empleos para afrontar el volumen de trabajo asociado".

El componente se articula en varios puntos. El primero de ellos es el marco ético y legal con el que debe contar el desarrollo de la IA en España, ateniéndose precisamente a la propuesta de reglamento en inteligencia artificial que anunció hace escasas semanas la propia Comisión Europea. En este marco se plantea la puesta en marcha de la propia ENIA, la creación de diversos observatorios para identificar colectivos que puedan verse vulnerabilizados por el uso y despliegue de estos sistemas, o sistemas para certificar y auditar algoritmos.

Otros puntos son la apuesta por el I+D+i en IA, la captación de talento, la integración de la IA en las cadenas de valor y la necesidad de contar con sistemas de almacenamientos de datos preparados y que se ajusten a los Objetivos de Desarrollo Sostenible y, por supuesto, no supongan un obstáculo en materia de transición ecológica.

Falta definición y concreción

El componente es ambicioso, pero especialistas consultadas por Business Insider España han querido hacer notar cuáles son los desafíos y riesgos a los que se expone el despliegue de este conjunto de inversiones. Ambas coinciden en que "nunca es tarde" para hablar de ética en algoritmos y colectivos que puedan ser vulnerables ante el despliegue de sistemas IA.

Se tratan de Gemma Galdon, directora y fundadora de Eticas Research & Consulting, una firma y una fundación españolas que trabajan auditando algoritmos; e Idoia Salazar, codirectora del Área de Ética y Responsabilidad y presidenta de OdiseIA, asociación sin ánimo de lucro y prestigioso observatorio independiente sobre el impacto ético y social de la IA.

"Estoy involucrada en varios procesos de pensar e implementar estrategias de inteligencia artificial, y la lección después de varios años es que son pocos útiles", apunta Galdon. "La clave es que la estrategia es de muy alto nivel y la clave siempre es cómo se aterriza: qué se va a financiar, cómo se va a financiar y qué objetivos se persiguen".

Las empresas europeas son las que más impulsan la ética en los algoritmos, aunque la mayoría siguen sobreestimando sus avances, según BCG

Galdon detalla que, tras consultar el componente del plan de recuperación, le sabe "mal" decirlo, pero "si es una propuesta para conseguir fondos, yo no la aprobaría". "No hay nada cuantificado", lamenta. Quieren que España sea "líder en capacitación". "Vale, ¿y eso qué significa? ¿De dónde se parte? ¿Con respecto a quién te estás comparando?".

"Es todo muy genérico y es difícil hacer buenas políticas si no se han identificado bien ni los problemas ni las necesidades", apostilla.

Por su parte, Salazar no es tan crítica con el plan del Gobierno. "Es un reto para nosotros, pero no llegamos tarde. Por las conversaciones que hemos tenido con el Gobierno sí vemos un interés prioritario en hacer auditorías algorítmicas de una forma regulada a nivel nacional. Si se sigue por esta línea no creo que vayamos mal en comparación con países de nuestro entorno".

Desplegar IA: pero cómo, dónde y por quién

Uno de los objetivos del componente 16 es financiar grandes proyectos que utilicen la IA fomentando la colaboración entre organismos de investigación, grandes empresas y pequeñas y medianas empresas. "Los proyectos objetos de la convocatoria recibirán una ayuda en subvención con una duración del proyecto de 4/5 años", destaca.

Acto seguido destaca: "Los sectores prioritarios en esta inversión serán el sector agroalimentario, turismo y hostelería, energía, movilidad y cambio climático, biomedicina y sanidad".

Aunque el uso de la IA en sectores como el agroalimentario tienen mucho sentido, Galdon hace un alto en el camino y pide una reflexión. "¿Para qué quiere el panadero de mi barrio un sistema de inteligencia artificial?". "Se comete un error que ya han cometido muchos otros países: no concretarlo bien. Se confunde IA con digitalización. Hablar de que las pymes se digitalicen es una cosa, que incorporen IA... ¿para qué?".

Galdon recuerda que la IA "tiene bastantes pocas aplicaciones prácticas más allá de los negocios en línea. El tejido productivo en España no es de empresas en línea, precisamente. Estas no han sido, además, las que más han sufrido durante la pandemia". "Falta cuantificar, alinear las acciones".

Salazar, de OdiseIA, plantea otro matiz. "Que todas las medidas que se están poniendo sobre la mesa lleguen a desarrollarse por empresas y organizaciones que verdaderamente quieran hacer eso porque creen en ello". Salazar cuenta que ha detectado en conversaciones con empresarios cómo muchos todavía consideran la ética en la IA un "lastre" para el desarrollo de sus negocios. Lo que lleva al punto de la concienciación.

Reflexión y concienciación en IA

Galdon y Salazar recuerdan que "nunca es tarde" para hablar de ética y colectivos vulnerables en IA. Pero Gemma Galdon apunta que hay mucha inversión en espacios de pensamiento y reflexión "que tampoco entiendo mucho". 

"Muchas de esas cosas ya se están hablando en muchos lugares. ¿Es para que haya gente después dedicándose a eso? ¿Queremos liderar el pensamiento en IA? Si se quiere liderar a nivel reflexivo o académico, no es lo que dice la estrategia. El plan de recuperación está más enfocado a tejidos productivos".

Hacer más preguntas y hablar más sobre la ética en los algoritmos es algo "urgente" para lo que es imprescindible "invertir en educación", advierten los expertos

Salazar, de OdiseIA, considera que quizá el de la concienciación es uno de los focos "que más de menos" ha echado en los pliegos anunciados. Ella considera imprescindible destinar fondos a concienciación, y no solo empresarial, para que se adopten sistemas de inteligencia artificial responsables. También ve clave recurrir a la sociedad.

"A personas mayores y a niños, a personas que no estén familiarizadas con la IA pero que van a recibir el impacto de esa tecnología", matiza. "No es solo quitar el sesgo a los algoritmos". Muchos ciudadanos cuentan con un prejuicio sobre los sistemas IA y Salazar advierte que si se sigue considerando que la IA es algo "que atenta contra la privacidad" —cuando no tiene por qué— va a haber "un lastre de consumo".

No tiene sentido desplegar una inteligencia artificial si los ciudadanos no quieren que sus datos sean utilizados por algoritmos.

Una propuesta quizá desfasada

Galdon es bastante crítica con el documento. "Nunca es tarde pero se traduce en muy poco. Hay un pliego para hacer un estudio sobre el impacto de la inteligencia artificial en la privacidad. Eso ya se sabe. El problema no es analizar cómo impacta la tecnología en la privacidad. El problema es cómo proteger la privacidad en los desarrollos que se hacen. Ya no estamos en esa fase".

"Es un poco viejuno", ríe. "Me decepciona un poco y me entristece. (...) Hay mucho potencial en este país. Pero con esta estrategia ni vamos a hacer que brille ni vamos a brillar".

Idoia Salazar considera que España no va tan atrasada como países de su entorno, si bien admite que en estados europeos como Malta o Alemania ya se han hecho avances, aunque no a nivel nacional. Tanto Galdon como Salazar sí coinciden en la pertinencia de la recién anunciada propuesta de reglamento sobre la IA que hizo la Comisión Europea la semana pasada.

Una propuesta que recibe la bienvenida de las dos especialistas consultadas por Business Insider España. Aunque fue recibida por frialdad por colectivos como EDRI, una plataforma de activistas europeos en defensa de los derechos digitales (consideran que la propuesta debe ser más ambiciosa para frenar el uso de sistemas de vigilancia masiva), Salazar sí considera que es necesaria una normativa de este estilo que contemple ya los primeros casos de uso y riesgo.

Eticas, la firma española que audita algoritmos a gobiernos y empresas tecnológicas, publica un 'manual de instrucciones' en el que detalla cómo lo hacen

Es cierto que "para cuando se llegue a aplicar, surgirán nuevos casos de uso", porque la IA estará más desplegada. Por eso considera que reglamentos como este deben ser más abiertos y flexibles.

Y los casos de uso siguen aumentando. Una de las principales centrales sindicales de Portugal denunció como el algoritmo de una de las aerolíneas participadas por el estado luso estaba despidiendo a trabajadores porque consideraba faltas y ausencias en el trabajo injustificadas a pesar de que fuesen por motivos de salud. "El algoritmo no tiene corazón", criticaba el sindicato.

Galdon cree que la propuesta de la Comisión Europea es buena. "Precisamente porque es concreta", compara con el plan de recuperación español. "Tiene varios niveles de riesgo. Uno es el inaceptable en el que se prohíben los desarrollos. Uno es de alto riesgo en el que se exigen determinados puntos, quizá algo abstracto, pero ya es un principio para procedimentar qué hacer". El otro nivel es el de riesgo bajo.

"Excluye el no riesgo, por lo que entiende que siempre hay riesgo e impone mecanismos de transparencia y auditabilidad". La propuesta de España, "en ese sentido", es propia "de hace 10 años".

Otros artículos interesantes:

"La ética en la IA tiene que liderar cualquier iniciativa empresarial", según Luis Ureta, country general manager de Globant en España

Esta IA analiza tu rostro en busca de imperfecciones: así es Qoves, la consultoría estética que ofrece consejos para mejorar tus rasgos faciales, en base a un algoritmo

Contra los vendehumos y "la religión" de los datos: este referente mundial en computación advierte que algunos paradigmas de la IA se han estancado

Te recomendamos

Y además