Eticas, la firma española que audita algoritmos a gobiernos y empresas tecnológicas, publica un 'manual de instrucciones' en el que detalla cómo lo hacen

Chica buscando datos en su ordenador
Gettyimages
  • Eticas, una consultora tecnológica, acaba de lanzar una guía para auditar algoritmos en sistemas de inteligencia artificial.
  • La compañía española quiere contribuir así a que esta tecnología sea "más explicable, transparente, predecible y controlable por la ciudadanía".
  • Gemma Galdon, su directora, explicó en Business Insider España por qué es importante auditar algoritmos y cómo se originan los sesgos que ella misma combate.
  • Descubre más historias en Business Insider España.

EEUU empezó su campaña de vacunación contra el coronavirus a mediados de diciembre. El Hospital Stanford Medicine dejó en manos de un algoritmo la decisión de qué facultativos serían los primeros en inmunizarse.

La polémica no tardó en llegar, cuando el algoritmo solo incluyó a 7 médicos residentes del centro entre los 5.000 profesionales sanitarios que recibirían las primeras dosis de la vacuna contra el COVID-19. El algoritmo explicó a los no seleccionados que habían sido descartados para el acceso a las primeras dosis por ser profesionales jóvenes sin ninguna asignación específica en ninguna de las áreas del hospital.

Lo que acababa de decidir un robot era priorizar a sanitarios que podían teletrabajar desde casa para ser vacunados antes que aquellos médicos y enfermeros que están expuestos diariamente a casos de COVID-19 positivos.

Este es un ejemplo real, que recogió hace días El Confidencial. Pero Gemma Galdon dio otros tantos ejemplos más en la reciente entrevista que concedió a Business Insider España. Desde entidades bancarias con algoritmos que discriminan a las mujeres —por el hecho de haber menos usuarias que usuarios, y no por ser peores o mejores pagadoras— hasta dejar en manos de desarrollos tecnológicos no auditados cuestiones tan importantes como la concesión de ayudas y subvenciones públicas.

"Silicon Valley está matando la innovación": por qué hay que empezar a auditar los algoritmos a las tecnológicas para evitar distopías, según una experta

Gemma Galdon Clavell es la empresaria al frente de Eticas Consulting, una organización que se vertebra en torno a dos patas: la primera, la empresa. Una consultora que audita algoritmos tecnológicos, igual que hay empresas que auditan las cuentas financieras de una compañía. La otra, la fundación: una entidad para poder poner en la agenda aquellos temas que preocupan a los profesionales de la firma y que no han tenido la oportunidad de abordar porque ningún cliente se lo ha pedido.

Gemma Galdon, directora de Eticas Consulting.
Gemma Galdon, directora de Eticas Consulting.

Dani Blanco ARGIA

Precisamente en la función de la segunda se enmarca la iniciativa que Eticas ha presentado este martes: la compañía acaba de lanzar una Guía de Auditoría Algorítmica para que los desarrollos de la inteligencia artificial (IA) cumpla requisitos "legales y sociales" en cualquier ámbito.

La digitalización de la economía se ha acelerado a causa de la pandemia del coronavirus, y el Gobierno ha tratado de estar a la altura con su agenda España Digital 2025, la controvertida Carta de Derechos Digitales y la recientemente aprobada Estrategia Nacional de Inteligencia Artificial.

Sin embargo, Galdon abundaba en sus entrevistas con Business Insider España que todavía queda un trecho por recorrer para que el sector privado sea consciente de lo necesario que es auditar algoritmos tecnológicos, de la misma manera que muchas compañías se prestan a auditorías externas de sus finanzas. Incluso el anterior CEO del HSBC advirtió en noviembre que la industria tecnológica muestra síntomas similares a los que mostró el sector financiero antes de la crisis de 2008.

Cómo nacen los sesgos tecnológicos que combate Eticas, la consultora que audita algoritmos a empresas e instituciones para evitar que sean discriminatorios

Esta Guía de Auditoría Algorítmica que edita Eticas y que puedes consultar gratuitamente desde su página web ofrece una metodología "replicable" "para que los algoritmos respeten la ley y sean más eficientes económicamente y justos socialmente".

En un comunicado, la firma española, que tiene mercado sobre todo en Estados Unidos, advierte que el impacto de los algoritmos en el día a día "crece exponencialmente". Por eso, entiende que es fundamental "ajustarlos no solo a criterios jurídicos y económicos, sino sociales y éticos". Tal y como "ya se exige" en "otros procesos productivos" a industrias "como la financiera, textil o alimentaria".

Este 'manual de instrucciones' incluye en sus anexos un modelo de informe, con el índice en el que se desgrana un modelo tipo —replicable— de en qué consiste una auditoría de algoritmos. La guía está dirigida tanto a empresas como a entidades públicas y a cualquier ciudadano, y su método sirve para auditar "productos y servicios en torno a sistemas de IA que usan algoritmos que recopilan o tratan datos de carácter personal".

"De esta forma", continúa la compañía, "se podrá comprobar que estos algoritmos son diseñados, desarrollados y utilizados de acuerdo a la ley, de forma socialmente justa y responsable para evitar que discriminen".

Galdon Clavell, la directora de Eticas Consulting, explica el lanzamiento de esta guía con el marco de que "es imprescindible dar a la sociedad herramientas para que puedan desarrollar algoritmos justos o detectar aquellos que no cumplen unos estándares de calidad y responsabilidad social". "Tras varios casos que han llegado a los tribunales, gobiernos y compañías de todo el mundo empiezan a comprender la importancia de estos controles externos".

Otros artículos interesantes:

La verdadera amenaza de la inteligencia artificial son las personas detrás de los algoritmos, según una ingeniera del departamento científico de Google

Así pueden ayudar la inteligencia artificial y los robots a los bancos a ahorrar costes y mejorar su relación con los clientes, según un experto en finanzas y tecnología

Inteligencia artificial para combatir noticias falsas y deepfakes: dos estudiantes consiguen una beca en Telefónica tras superar un reto de la teleco

Te recomendamos

Y además