España ultima su observatorio para analizar el impacto social de los algoritmos y se postula como país piloto para probar el futuro reglamento europeo de la inteligencia artificial

España ultima la presentación de su nuevo Observatorio Nacional del Impacto Social de los Algoritmos al tiempo que prepara una comisión interministerial entre el Ministerio de Asuntos Económicos y Transformación Digital, a través de su Secretaría de Estado de Digitalización e Inteligencia Artificial, y el Ministerio de Trabajo con el propósito de analizar los algoritmos que regula la aprobada Ley Rider.

Además, el Gobierno quiere postular al país como región piloto en la que probar los efectos del futuro Reglamento europeo sobre la inteligencia artificial (IA), cuyo borrador ya presentó Bruselas a finales del mes de abril.

Son algunas de las noticias que ha avanzado la secretaria de Estado de Digitalización e Inteligencia Artificial, Carme Artigas, en una reciente entrevista con Business Insider España. En palabras de Artigas, España quiere pasar "de las musas al teatro": "Todo lo teórico lo queremos probar".

"Sabíamos que se nos pediría más ambición": la secretaria de Estado de Digitalización explica los puntos más polémicos de la Ley de Startups y se abre a modificaciones

Artigas cree que, "para que algo funcione", la industria "debe estar involucrada". "Es como plantear que todos los algoritmos se expliquen: ¿cómo lo hacemos? ¿Cómo lo probamos? Este debe ser un proceso iterativo. No se puede sobrerregular, porque a priori matas la innovación, pero tampoco puedes esperar que la tecnología vaya por libre y tratar de resolver los problemas después, porque entonces ya no habrá oportunidad".

Un observatorio de algoritmos

El Observatorio Nacional del Impacto Social de los Algoritmos era algo que ya planteaba la Estrategia Nacional de Inteligencia Artificial (ENIA), que el Gobierno presentó hace unos meses y convirtió en uno de los componentes del Plan Nacional de Recuperación, Transformación y Resiliencia que canalizará los fondos europeos de recuperación que ya están llegando al país.

Estes nuevo organismo se suma a los recientemente anunciadas por la propia SEDIA, como el Observatorio Nacional de Ciberseguridad, con el propósito de dotar al ecosistema innovador de nuevos mecanismos para evitar que la digitalización suponga una profundización de la brecha tecnológica en la que España no salió bien parada, según el sondeo europeo de competencias digitales que se publicó el año pasado.

Business Insider España ha publicado en diversas ocasiones informaciones en las que se esbozaba en qué escenarios un algoritmo o un sistema de IA podían vulnerabilizar colectivos o generar situaciones injustas. Por ejemplo, al solicitar un crédito hipotecario, un sistema de IA no lo suficientemente auditado podía acabar denegando préstamos a mujeres por el hecho de que están menos bancarizadas que los hombres y el algoritmo no es capaz de discernir que eso no quiere decir que sean peores pagadoras.

Cómo nacen los sesgos tecnológicos que combate Eticas, la consultora que audita algoritmos a empresas e instituciones para evitar que sean discriminatorios

Así lo han explicado en múltiples ocasiones especialistas como Gemma Galdon, fundadora de Eticas, una consultora y fundación que precisamente analiza el impacto social de estos algoritmos, o Idoia Salazar, de un observatorio privado con un propósito similar llamado OdiseIA. Ambas compartieron su visión cuando se desvelaron los pormenores de la Estrategia Nacional de IA en el Plan de Recuperación, Transformación y Resiliencia.

El papel de los sindicatos en la 'Ley Rider'

Junto a este nuevo observatorio que la SEDIA presentará en los próximos días, la Secretaría de Estado también planteará la comisión interministerial con el Ministerio de Trabajo fruto de la recientemente aprobada Ley Rider, que en su articulado plantea dar acceso a los representantes de los trabajadores  —comités de empresa, sindicatos— a aquellos algoritmos que puedan participar en la toma de decisiones laborales por parte de los empleadores.

De hecho, los sindicatos nacionales y europeos celebraron la nueva norma impulsada por Trabajo, mientras a nivel comunitario se plantean regulaciones similares.

Empresas que espían las conversaciones de sus empleados y algoritmos que penalizan hasta por enfermedad: Europa quiere regular la IA en el trabajo antes de que acabe el año

"La Estrategia Nacional de IA ya contemplaba el Observatorio del Impacto Social de los Algoritmos que lanzaremos esta semana y con la consecuente capacidad de auditar esos algoritmos. Primero, de manera voluntaria". Artigas, en una entrevista con Business Insider España, confirmó que el Gobierno postulará al país como región piloto para probar el nuevo Reglamento europeo sobre la IA. Este extremo también lo han avanzado medios como elDiario.es.

Este borrador legislativo que ya ha presentado la Comisión no plantea ningún escenario exento de riesgos en los que se implementen sistemas de IA e incluso prohíbe sistemas de reconocimiento facial o biométrico —huellas dactilares, sistemas de reconocimiento facial mediante videocámaras— en la vía pública, salvo excepciones.

España, escenario de pruebas para el Reglamento sobre la IA

El horizonte legislativo europeo está repleto de futuras regulaciones a las grandes plataformas tecnológicas. La Ley de Servicios Digitales, la Ley de Mercado Digital y ahora el recientemente presentado Reglamento sobre la IA servirán para ver "cómo ponemos estas normas en juego", avanza Artigas. "España cree que la transformación tecnológica no vale a cualquier precio".

"Queremos que la transformación digital tenga a las personas en el centro y que no deje a nadie atrás. Lo avanzábamos en la Carta de Derechos Digitales y estamos impulsando este debate a nivel europeo. [Las plataformas tecnológicas] nos han comprado la idea de que en Europa las cosas van a ser distintas: y es que no hace falta que sean iguales en todas las partes del mundo".

Las tecnológicas están tomando medidas cada vez más controvertidas, y esta experta explica por qué: "La ética ya no es sostenible como discurso, hay que pasar a la acción"

"Europa esun mercado demasiado importante como para que nadie pueda renunciar a él. Y, además, Europa tiene su derecho y está muy dispuesta a marcar estas normas", insiste Artigas.

Así, la SEDIA plantea que en España el borrador del reglamento se comience a aplicar este mismo año y el que viene "para probar cómo funciona y decirle a la Comisión qué hay que cambiar. Queremos un trabajo colaborativo con la industria. Con lo práctico. A veces las reglas que se diseñan en Bruselas se intentan aplicar a nivel industrial y, aunque se tenga la voluntad, no se puede hacer".

"Pasamos de las musas al teatro. Todo lo teórico lo queremos probar". Artigas cree que el Reglamento sobre la IA cuenta "con el enfoque correcto", pero recuerda que Europa "está constantemente en beta", "a base de prueba y error". Y apunta: "Va a ser un reglamento basado no solo en la tecnología, sino en los usos que se le da. No es regular lo técnico, sino sus riesgos. Tenemos una gran oportunidad de desarrollo".

De la Carta de Derechos Digitales al Congreso

Hace unos días, la propia SEDIA presentó su Carta de Derechos Digitales, que ha dejado con un sabor agridulce a algunos colectivos especializados en este ámbito como X.net.

Artigas hace una encendida defensa del documento y recuerda que no es una ley. "Es una carta de navegación, una brújula". Algunas de las críticas que había recibido apuntaban a que se basaba en leyes preexistentes, por lo que se temía que pudiese quedar obsoleta. "No, las leyes evolucionarán y queremos que se inspiren en esta Carta. Es una Carta propositiva. Hubo un foro con 18 expertos y ha pasado por 2 consultas públicas. No se va a poder contentar a todo el mundo".

España ya tiene su primer Chief Data Officer de la historia: se llama Alberto Palomo, acaba de regresar de EEUU y estos son sus desafíos más inmediatos

La secretaria de Estado asegura que, de forma paralela a la confección de la carta, su organismo ha hecho un estudio sobre qué leyes se deberán abordar en un futuro para adaptar determinados derechos a la nueva realidad digital. El resultado, explica, es que muchas de estas regulaciones deberán atajarse en el ámbito europeo.

"Nos estamos atreviendo a proponer nuevos derechos para que se inspiren nuevas leyes, como por ejemplo el derecho a no ser discriminado por un algoritmo". Artigas recuerda el ejemplo de la Ley Rider, sobre la que también se ha abordado cómo evitar que compartir esos algoritmos suponga un menoscabo "a la propiedad intelectual o industrial" de una empresa.

Frente al "no hay por qué enseñar las tripas de un algoritmo", Artigas es contundente: "Si soy trabajador, tengo derecho a saber en base a qué criterios se me va a valorar".

"Nos estamos anticipando", resume la secretaria de Estado. "Lo que queremos es que esta Carta de Derechos la acojan las Cortes. Que dentro del Congreso de los Diputados haya una comisión que se asegure de que todas las leyes que vengan ahora se inspiren en la Carta de Derechos Digitales. Es un primer paso muy importante".