Pasar al contenido principal

La empresa española que quiere dar lecciones de ética a las máquinas de inteligencia artificial

Robot pensando
GettyImages
  • A punto de completarse el primer prototipo, el módulo ETHYKA dará ética a las máquinas guiadas con inteligencia artificial. 
  • El transporte, las finanzas, la justicia o la sanidad son ámbitos en los que la IA introducirá cambios decisivos en los próximos años. 
  • Es el primer acercamiento de la informática a resolver un problema tan antiguo como necesario en el futuro inmediato: qué es el bien. 


Acuilae es una empresa española especializada en análisis de datos, machine learning y asistentes virtuales, tres de las aplicaciones estrella de la inteligencia artificial. Así que parece consustancial a su negocio pensar en dar una solución a uno de los dilemas más importantes que esta plantea: qué o quién da una ética a la inteligencia artificial.

Cómo es deseable que se comporten los robots como los coches autónomos, y no solo las máquinas. Las finanzas globales, el sistema sanitario e, incluso, el de justicia son solo algunos de los aspectos de la vida diaria que muy pronto estarán gestionados mediante inteligencia artificial. Y si se va a dejar cosas tan importantes en manos de máquinas, hay que asegurarse de que estas tomarán las decisiones adecuadas y, a poder ser, incluso justas y buenas. 

De eso es, precisamente, de lo que trata la ética, o ETHYKA que "nace del afán por investigar y aprender", asegura Cristina Sánchez, responsable principal del proyecto y CEO de Acuilae. Experta en estadística, informática y científica de datos, ha contado con un equipo de solo cuatro personas para dar cuerpo al proyecto, que ahora intenta atraer inversores mediante una ronda de financiación. 

Las aplicaciones son potencialmente ilimitadas, sobre todo porque nadie hasta ahora ha desarrollado ética para máquinas, así que el principal objetivo de ETHYKA es convertirse en un estándar de esta industria. De conseguirlo, ofrecerá un marco de referencia estable para que los desarrolladores puedan implementarlo en sus proyectos de software o hardware. Y desde luego, dispensará un importante ahorro de tiempo y costes en todo este proceso de moralización de las máquinas

"Se puede vender como SE Card para desarrolladores que quieran implantarlo. También hemos pensado ofrecer servicios en la nube para consultas puntuales y, desde luego, módulos para equipos de transporte como coches autónomos, autómatas de salud, asistentes virtuales etc.", asegura Cristina Sánchez a Business Insider

Leer más Por qué la felicidad nos salvará de la extinción

Según afirman desde Acuilae, ya se ha comprobado que los robots y asistentes virtuales que interaccionan con individuos humanos tienden a corromperse, como sucedió con el chatbot de Microsoft que empezó a hacer comentarios fascistas. Las máquinas —como los niños— aprenden por observación y repetición, prueba y error. Si escuchan expresiones soeces, acabarán incorporándolas y, en el futuro también podrían imitarán toda clase de comportamientos indeseables. 

Cómo dar ética a una máquina

Al igual que sucede con muchas otros dispositivos ideados para operar con IA, su funcionamiento y estructura tratan de emular lo que sucede dentro del cerebro humano. Así, ETHYKA está estructurado en tres capas que se corresponden con los tres estadios de la teoría del conocimiento convencional: adquisición de los datos y reconocimiento del dilema, análisis de de la disyuntiva y toma de decisiones. 

estructura módulo Ethyka
En su estructura, Ethyka emula el proceso de construcción de decisiones dentro de la mente humana. Acuilae.

En el primero, como en nuestro propio cuerpo, se hace acopio de todos los datos provenientes de sensores, cámaras, apps, frameworks, etc. Sin embargo, lo que sucede a continuación no comprende a la amígdala central del cerebro que es la que regula las emociones y la motivación, sino que ETHYKA, como el resto de las máquinas que se basan en la inteligencia artificial, tirará de un catálogo en la nube —formado por una biblioteca de terabytes y terabytes de expresiones y acciones relacionadas para ser capaz de identificar ante qué se encuentra. 

"Siempre me resulta ridícula esa visión apocalíptica que se da de la inteligencia artificial. No pienso que en absoluto esta vaya a ser un riesgo para la humanidad como muchos quieren pensar, pero desde luego es importante que estas máquinas aprendan a reconocer un dilema ético dentro del lenguaje natural que será con el que nos comunicaremos con ellas", afirma Cristina Sánchez a Business Insider

Ahora, lo que están haciendo es crear esa biblioteca en la nube que actuará de lóbulo frontal —la parte más evolucionada del cerebro que se encarga de aplacar las emociones más primarias para tomar decisiones tamizadas por los valores éticos y morales de cada individuo— de ETHYKA. Aquí se guardarán todos los datos de aprendizaje y los distintos filtros que no serán otra cosa que las distintas morales que se podrán aplicar a la ética de cada máquina

Y es que frente a la ética, que es inmutable porque el bien siempre es el bien, la moral lo que introduce son el conjunto de normas y acciones aceptadas en un determinado ámbito, cultura o sociedad. Llevando esto a la conducción autónoma, por ejemplo, esos coches compartirán espacio con otros conducidos por humanos durante años, quizá décadas, por lo que será necesario que puedan interactuar adecuadamente con los diferentes usos al volante que hay en los distintos países. 

Así, ETHYKA podrá incorporar diferentes configuraciones, con éticas aprobativa, autónoma y eterónoma, teológica, evolutiva, cívica y, por supuesto, la ética profesional, que además puede ser diferente según el oficio. 

En una segunda fase, el módulo ético de Acuilae será capaz de discernir qué principios aplicar a su toma de decisiones —cosa en la que a menudo nos confundimos los seres humanos— y, en una tercera, empleará el deep learning para generar predicciones que contrasten sus anteriores tomas de decisiones con las futuras. 

Al mismo tiempo, el módulo será capaz de operar según tres criterios de decisión, que dependerán de la cantidad de información suministrada y del control sobre la situación final. ¿Qué haría falta para que ETHYKA verdaderamente se convirtiera en un estándar en la industria de la computación? 

"Que en lugar de en España, esto se estuviera llevando a cabo en Alemania, China o EE.UU.", señala Cristina Sánchez, quien de inmediato empezará a reclutar un equipo más amplio "de expertos multidisciplinares" para llevar el módulo español de ética al mercado global de la inteligencia artificial

Te puede interesar