El Reglamento sobre la IA que prepara Bruselas levantará barreras a la innovación, según critica un especialista en transformación digital del MIT

Pruebas de reconocimiento facial a un maniquí con mascarilla durante la crisis del COVID-19 en China.
Pruebas de reconocimiento facial a un maniquí con mascarilla durante la crisis del COVID-19 en China.
REUTERS/Thomas Peter
  • Andrew McAfee, uno de los expertos de la Iniciativa por la Economía Digital (IDE) del Instituto Tecnológico de Massachusetts (MIT), critica la propuesta europea de regular los sistemas de inteligencia artificial.
  • En una tribuna en el Financial Times, McAfee aborda los riesgos que supone el despliegue de esta regulación, que podría profundizar el desfase europeo en innovación tecnológica.
  • Descubre más historias en Business Insider España.

Andrew McAfee es uno de los mayores expertos en transformación digital del mundo. Es investigador en el Instituto Tecnológico de Massachusetts (MIT) y forma parte del panel de expertos del IDE, la Iniciativa por la Economía Digital del mismo centro de investigación.

Opina que la propuesta de Reglamento sobre la Inteligencia Artificial, cuyo borrador presentó Bruselas a finales de abril, "obstaculizará" la innovación. Lo ha escrito en una tribuna en el Financial Times.

Lo hace ejemplificando con Duolingo, una conocida aplicación con la que los usuarios pueden practicar idiomas. Lo hace, en concreto, con lo que considera una de las "innovaciones más ingeniosas" de Duolingo, su famoso English Test que es reconocido por miles de centros educativos en todo el mundo como una forma de demostrar las competencias de los estudiantes en el uso de la lengua anglosajona.

"Quienes hagan el test no necesitan apuntarse a un curso ni viajar a ningún lado. Solo necesitan un dispositivo conectado a internet con una webcam y una hora de tiempo. El test evita las trampas gracias a la cámara y analiza vocabulario, conversación y comprensión de los alumnos. Da los resultados en dos días y cuesta menos de 50 dólares", recuerda McAfee.

"También es un sistema de inteligencia artificial de alto riesgo, según la propuesta europea", expone.

"Esta etiqueta se le aplicará porque el test usa inteligencia artificial tanto para personalizar la prueba, con preguntas generadas en función del nivel del examinado, como para su calificación". "Los sistemas de inteligencia artificial que evalúen a los participantes de exámenes requeridos para que se les admitan en instituciones educativas se consideran de alto riesgo" en el borrador del Reglamento.

En ese sentido, la propuesta de Reglamento sobre IA que prepara la Comisión Europea contempla una serie de requisitos —hasta diez páginas del documento— para los proveedores de sistemas etiquetados de alto riesgo. Unos requisitos a cumplimentar que van desde buenas prácticas en gobernanza de datos o transparencia a seguridad, robustez del sistema o confianza.

"Todos estos requerimientos y exigencias supondrían el veto de estos sistemas antes de que se puedan ofrecer de ninguna manera". Dichos requisitos entrarán en vigor "antes de que el proveedor del sistema lo lance en fase beta o antes de que el proveedor haya tenido algún indicio de que su producto se podrá ajustar al mercado". "Incluso antes de saber si en realidad hay algún mercado que competir", lamenta McAfee.

El investigador del MIT y de la Iniciativa por la Economía Digital considera, así, que el Reglamento sobre la IA es un freno. "Es una apuesta segura de que emprendedores e inversores de fases semillas de la industria de la IA evitarán introducirse en segmentos de aplicación etiquetados con este alto riesgo".

"La Unión Europea, por tanto, generará y aplicará menos innovación a la hora de admitir a estudiantes en centros educativos o calificarlos en sus exámenes, a la hora de tomar decisiones sobre contrataciones o ascensos laborales, a la hora de determinar solvencias financieras, enviar socorristas o dar libertad condicional a presos usando métricas para combatir el crimen", continúa McAfee en su tribuna.

Cómo nacen los sesgos tecnológicos que combate Eticas, la consultora que audita algoritmos a empresas e instituciones para evitar que sean discriminatorios

"Los europeos, por otro lado, sabrán que toda la IA que se emplee en estas áreas se habrán sometido a un extenso proceso de análisis".

El investigador considera que el Reglamento sobre la IA es un ejemplo de las "dos escuelas de pensamiento" desde las que se aborda las posibles regulaciones en tecnología. "Una considera que, precisamente porque las tecnologías pueden ser muy poderosas, estas solo deben desplegarse con una planificación previa y bajo escrutinio constante". Esta sería la escuela europea.

Los defensores de la otra escuela consideran que la innovación debe ejecutarse "sin permiso", sin limitar ni poner puertas al campo. "Es la mejor forma de encontrar disrupciones". "Ponerle puertas al campo para que solo innoven quienes puedan asumir una serie de altos costes regulatorios es una mala idea", considera McAfee en su tribuna.

"Estos riesgos no son teóricos", continúa. "El Reglamento General de Protección de Datos (RGPD) europeo, que entró en vigor en mayo de 2018, ha significado un aumento de la cuota de mercado para Google así como una reducción de la inversión de capital riesgo en Europa". "Y los beneficios para Europa de esta regulación no son tan obvios": un informe de junio de 2020 de la propia Bruselas detectó que el hacer cumplir la ley solo se había conseguido "parcialmente" y con recursos "insuficientes".

Las tecnológicas están tomando medidas cada vez más controvertidas, y esta experta explica por qué: "La ética ya no es sostenible como discurso, hay que pasar a la acción"

El Reglamento sobre la IA, sin embargo, sí ha sido aplaudido por especialistas en la ética algorítmica como la española Gemma Galdon, fundadora y directora de Eticas, una consultora y fundación que analiza el impacto social de estos sistemas de inteligencia artificial.

Precisamente porque las decisiones automatizadas pueden sufrir sesgos y generar desigualdades, muchos especialistas europeos tratan de abordar esta incipiente regulación en todo el continente. España ya ha dado varios pasos al frente, con la puesta en marcha de la Ley Rider a cuenta del Ministerio de Trabajo, que en los próximos días lanzará una comisión interministerial con el Ministerio de Asuntos Económicos y Transformación Digital para auditar algoritmos laborales, tal y como avanzó la secretaria de Estado de Digitalización, Carme Artigas, en este medio.

Artigas también avanzó en Business Insider España que el país se postulará como región piloto para probar los efectos del nuevo Reglamento sobre la IA europeo desde este mismo año, para poder lanzar un proceso de feedback a las instituciones europeas.

Otros artículos interesantes:

Un fabricante de taxis crea "la primera furgoneta camper eléctrica": costará 72.500 euros y se lanzará en Europa a finales de 2021

La compañía japonesa Shionogi comienza a probar una pastilla contra el COVID-19, sumándose a Pfizer y Merck en la carrera por desarrollar un tratamiento oral frente al coronavirus

El emoji del gafotas se usa para calificar a alguien de nerd, pero su significado real es mucho más oscuro