Sngular y Eticas se alían para ayudar a mejorar algoritmos desplegados o en fase de planificación y hacerlos más "responsables" socialmente

Ellas, además de divulgar, ya actuaban. Pero Nerea Luis, una de las responsables de IA en Sngular, y Gemma Galdon, experta en auditoría algorítmica y fundadora de Eticas Consulting, han puesto en común fuerzas de cara a este 2022. Las dos firmas acaban de anunciar una alianza para ser pioneras "en el desarrollo de soluciones de IA ética y responsable".

De esta manera, Sngular, un grupo empresarial tecnológico con presencia en 7 países y más de 900 empleados, y Eticas, la firma que Galdon puso en marcha hace ya 10 años con el objetivo de auditar el despliegue de algoritmos en empresas privadas y administraciones públicas, trabajarán juntas en algunos proyectos a partir de ahora.

Lo han confirmado varias mediante una nota de prensa que se ha remitido a los medios este miércoles. En ella, las compañías recuerdan que el futuro reglamento europeo para la inteligencia artificial determina que sectores como la salud, el empleo, la educación, la seguridad, los servicios sociales o la justicia son "especialmente sensibles en torno al uso responsable de la tecnología".

Automatizan servicios públicos sin debate y 'vacían' de sentido los parlamentos: varias expertas llaman en Barcelona a gobernar la tecnología más allá del discurso institucional

"En todos ellos el espacio para el error algorítmico es mínimo, lo que requiere de la creación de equipos altamente especializados y de la implementación de modelos de gobernanza y protección de datos para minimizar riesgos legales, reputacionales y éticos", advierten.

Por este mismo motivo Sngular y Eticas se alían y alumbran "una metodología de trabajo conjunta y ágil en proyectos técnicos de terceros que persigue como objetivo el desarrollo, supervisión, evaluación y auditado de algoritmos de sistemas de datos en contextos de alto riesgo y cuyas decisiones tengan un impacto directo o indirecto en las personas".

Hoy en día los modelos de IA pueden estar incrustados en procesos por los que una entidad bancaria decide si facilita o no a un cliente un crédito hipotecario. También en organismos públicos que tengan que determinar quién puede acceder o no a una beca o a una ayuda. O incluso, y este es un caso real, en el sistema penitenciario: una máquina puede ayudar a decidir quién merece la libertad.

Sin embargo, un modelo algorítmico no es neutro per se y puede perpetuar sesgos, en muchas ocasiones inconscientes, por parte de sus desarrolladores. Es algo que se aprecia con total nitidez en los modelos de reconocimiento facial. Esta tecnología utiliza la inteligencia artificial y arroja en muchas ocasiones falsos positivos con rostros no caucásicos.

Estos algoritmos ya deciden si te dan la condicional o si tu denuncia es falsa: Eticas lanza un buscador para conocer las IA que ya inciden en tu vida diaria

Con esta colaboración, Sngular y Eticas, que se erigen en dos compañías pioneras en el desarrollo ético de algoritmos, comenzarán a trabajar juntas. Nerea Luis, AI Lead del grupo, cree que la metodología conjunta que han diseñado "facilitará no solo cumplir con un marco legal en el desarrollo de proyectos, sino también aportar solidez en el paso de prueba de concepto a producción".

Gemma Galdon, fundadora de Eticas, recuerda al mismo tiempo que los algoritmos ya rodean a los usuarios, "y cada vez toman decisiones sobre aspectos más importantes de nuestra vida sin que seamos conscientes de que existen".

Sngular y Eticas trabajarán con algoritmos ya entrenados, para identificar y mitigar sus posibles sesgos e ineficiencias, auditarlos, innovar en materia de cumplimiento legal, garantizar su transparencia y mejorar sus planes de implementación e integración humano máquina. Pero también ofrecen su experiencia para automatizaciones que todavía estén en fase de planificación.

De esta manera, las dos firmas ofrecerán a sus clientes la posibilidad de garantizar la viabilidad de determinadas automatizaciones o desarrollar sistemas con la privacidad por defecto, mejorar los protocolos para garantizar el consentimiento de los usuarios a la hora de recabar sus datos, así como garantizar su anonimización y encriptación.