Eticas, la firma española que audita algoritmos a gobiernos y empresas tecnológicas, publica un 'manual de instrucciones' en el que detalla cómo lo hacen

EEUU empezó su campaña de vacunación contra el coronavirus a mediados de diciembre. El Hospital Stanford Medicine dejó en manos de un algoritmo la decisión de qué facultativos serían los primeros en inmunizarse.

La polémica no tardó en llegar, cuando el algoritmo solo incluyó a 7 médicos residentes del centro entre los 5.000 profesionales sanitarios que recibirían las primeras dosis de la vacuna contra el COVID-19. El algoritmo explicó a los no seleccionados que habían sido descartados para el acceso a las primeras dosis por ser profesionales jóvenes sin ninguna asignación específica en ninguna de las áreas del hospital.

Lo que acababa de decidir un robot era priorizar a sanitarios que podían teletrabajar desde casa para ser vacunados antes que aquellos médicos y enfermeros que están expuestos diariamente a casos de COVID-19 positivos.

Este es un ejemplo real, que recogió hace días El Confidencial. Pero Gemma Galdon dio otros tantos ejemplos más en la reciente entrevista que concedió a Business Insider España. Desde entidades bancarias con algoritmos que discriminan a las mujeres —por el hecho de haber menos usuarias que usuarios, y no por ser peores o mejores pagadoras— hasta dejar en manos de desarrollos tecnológicos no auditados cuestiones tan importantes como la concesión de ayudas y subvenciones públicas.

"Silicon Valley está matando la innovación": por qué hay que empezar a auditar los algoritmos a las tecnológicas para evitar distopías, según una experta

Gemma Galdon Clavell es la empresaria al frente de Eticas Consulting, una organización que se vertebra en torno a dos patas: la primera, la empresa. Una consultora que audita algoritmos tecnológicos, igual que hay empresas que auditan las cuentas financieras de una compañía. La otra, la fundación: una entidad para poder poner en la agenda aquellos temas que preocupan a los profesionales de la firma y que no han tenido la oportunidad de abordar porque ningún cliente se lo ha pedido.

Precisamente en la función de la segunda se enmarca la iniciativa que Eticas ha presentado este martes: la compañía acaba de lanzar una Guía de Auditoría Algorítmica para que los desarrollos de la inteligencia artificial (IA) cumpla requisitos "legales y sociales" en cualquier ámbito.

La digitalización de la economía se ha acelerado a causa de la pandemia del coronavirus, y el Gobierno ha tratado de estar a la altura con su agenda España Digital 2025, la controvertida Carta de Derechos Digitales y la recientemente aprobada Estrategia Nacional de Inteligencia Artificial.

Sin embargo, Galdon abundaba en sus entrevistas con Business Insider España que todavía queda un trecho por recorrer para que el sector privado sea consciente de lo necesario que es auditar algoritmos tecnológicos, de la misma manera que muchas compañías se prestan a auditorías externas de sus finanzas. Incluso el anterior CEO del HSBCadvirtió en noviembre que la industria tecnológica muestra síntomas similares a los que mostró el sector financiero antes de la crisis de 2008.

Cómo nacen los sesgos tecnológicos que combate Eticas, la consultora que audita algoritmos a empresas e instituciones para evitar que sean discriminatorios

Esta Guía de Auditoría Algorítmica que edita Eticas y que puedes consultar gratuitamente desde su página web ofrece una metodología "replicable" "para que los algoritmos respeten la ley y sean más eficientes económicamente y justos socialmente".

En un comunicado, la firma española, que tiene mercado sobre todo en Estados Unidos, advierte que el impacto de los algoritmos en el día a día "crece exponencialmente". Por eso, entiende que es fundamental "ajustarlos no solo a criterios jurídicos y económicos, sino sociales y éticos". Tal y como "ya se exige" en "otros procesos productivos" a industrias "como la financiera, textil o alimentaria".

Este 'manual de instrucciones' incluye en sus anexos un modelo de informe, con el índice en el que se desgrana un modelo tipo —replicable— de en qué consiste una auditoría de algoritmos. La guía está dirigida tanto a empresas como a entidades públicas y a cualquier ciudadano, y su método sirve para auditar "productos y servicios en torno a sistemas de IA que usan algoritmos que recopilan o tratan datos de carácter personal".

"De esta forma", continúa la compañía, "se podrá comprobar que estos algoritmos son diseñados, desarrollados y utilizados de acuerdo a la ley, de forma socialmente justa y responsable para evitar que discriminen".

Galdon Clavell, la directora de Eticas Consulting, explica el lanzamiento de esta guía con el marco de que "es imprescindible dar a la sociedad herramientas para que puedan desarrollar algoritmos justos o detectar aquellos que no cumplen unos estándares de calidad y responsabilidad social". "Tras varios casos que han llegado a los tribunales, gobiernos y compañías de todo el mundo empiezan a comprender la importancia de estos controles externos".