"Es de mala educación llevar bikini en la playa": así es Ask Delphi, la IA creada por un grupo de científicos para ofrecer consejos éticos que se ha vuelto machista, racista y homófoba

Mala inteligencia artificial

Getty Images

  • Ask Deplhi es una IA desarrollada por un grupo de científicos para ofrecer consejos éticos a todo el que quiera hacer una consulta en su web.
  • Aunque muchas de sus respuestas entran dentro de lo esperable, Business Insider España ha podido comprobar que presentan ciertos sesgos preocupantes.
  • Delphi ve correcto que los hombres lleven bañador en la playa y entiende que es de mala educación ir en bikini; también ve mal que 2 hombres se besen, aunque no tiene problema alguno en que lo hagan 2 mujeres, por ejemplo.
  • Descubre más historias en Business Insider España.

Tarotistas, chamanes, monjes, hechiceros y oráculos. Desde tiempos ancestrales, la misión de todos ellos, además de dar a conocer el futuro (siempre mediante metáforas lo suficientemente abiertas como para que cualquiera pudiera interpretar casi cualquier cosa), ha sido ofrece guía moral al ser humano, aconsejarle ante las grandes dudas éticas que todos enfrentan tarde o temprano.

Con el transcurrir de los milenios, el logos se fue abriendo paso poco a poco ante mitos que quedaron arrinconados en el ámbito de la fe. Pero las grandes dudas éticas siguen ahí, nunca se han ido, y aún hay quien busca ayuda para resolverlas.

Para aliviar algo esta angustia existencial ha surgido recientemente desde las profundidades de internet Ask Delphi, una inteligencia artificial que se declara capaz de resolver cualquier cuestión ética que se le ponga por delante.

El funcionamiento de Ask Delphi no puede ser más sencillo. Basta con que cualquier persona desde un dispositivo se meta en su web y le haga una pregunta o le plantee una situación

En cuestión de segundos, la inteligencia artificial devolverá una respuesta en la que catalogará la frase de manera clara, precisa y escueta con calificativos como "está bien", "está mal", "es peligroso", "es inquietante" o "es de mala educación", entre otros pocos resultados posibles.

Detienen a un hombre en Japón por usar una IA para quitar la censura de los genitales de actores y actrices en películas porno

Se trata de un proceder sencillo que, sin embargo, ha levantado ampollas en los últimos días en internet. Lo ha hecho, más que por el método en sí (que tiende a ver como blancas o negras situaciones que en realidad admiten matices), por las respuestas.

Como han denunciado algunos usuarios en redes sociales y como ha podido comprobar Business Insider España, Delphi presenta cierta tendencia a ser machista, racista y homófobo.

El origen de este sesgo se halla en su entrenamiento y en la sociedad misma.

Un experimento para conocer los límites de la IA

Ask Delphi es mucho más que una web creada para perder un poco el tiempo en internet. 

Así lo explican en su propia web los investigadores que del Allen Institute for AI, que son quienes están detrás de Ask Delphi. 

Estos se han preocupado por otra parte de dejar bien visible en la web un aviso en un recuadro rojo que advierte de que Ask Delphi es un proyecto experimental.

La IA, detallan, tan solo busca estudiar las posibilidades y las limitaciones de la ética y la computación, y no está pensada en ningún caso para que los seres humanos tomen lo que dice Delphi en serio y, mucho menos, que lo interpreten como la verdad revelada por parte de una inteligencia cibernética superior.

"Los resultados podrían ser potencialmente ofensivos, problemáticos o perjudiciales y no reflejan necesariamente los puntos de vista y opiniones de los autores y sus afiliaciones asociadas", explican los desarrolladores, curándose en salud.

Pero a casi nadie escapa precisamente quiénes son estos desarrolladores.

Detrás de Delphi está el Instituto Allen para la IA , un centro de investigación fundado por el difunto cofundador de Microsoft, Paul Allen. 

Los inquietantes límites de la tecnología: OpenAI cierra una web de desarrollo de chats con inteligencias artificiales después de que un hombre reprodujera la personalidad de su difunta prometida

El Instituto Allen para la IA busca lograr avances científicos mediante la construcción de sistemas de inteligencia artificial con capacidad de razonamiento, aprendizaje y lectura. 

Por extravagante que pueda parecer Ask Delphi, por tanto, conviene recordar que detrás de él hay todo un equipo de brillantes desarrolladores que buscan saber más sobre los límites de aprendizaje de la IA.

Aunque durante días ha circulado por internet el rumor de que Ask Delphi ha sido entrenado con respuestas que han dado personas anónimas en foros de Reddit, los propios investigadores han aclarado que esto no es así.

Sí es cierto, admiten, que algunas de las preguntas con las que se ha entrenado a Ask Delphi han salido de Reddit, un lugar, dicen los científicos, donde si algo abunda son precisamente temas moralmente cuestionables.

Las respuestas que da el ordenador, sin embargo, se han sacado de encuestas realizadas a grupos de personas escogidas a través de la herramienta Amazon MTurk.

Los bikinis son de mala educación en la playa, aunque con los bañadores de hombre no hay problema

Precisamente por eso, llaman aún más la atención ciertas inconsistencias de Ask Delphi.

Cuando se pregunta a la IA por cuestiones más o menos sencilla, no ofrece dudas. Por ejemplo, si se le pregunta si está bien robar, esta responde inmediatamente que no, que es incorrecto robar.

También tiene claras cuestiones relativas a los buenos hábitos. Por ejemplo, Delphi tiene muy claro que comer hamburguesas todos los días está mal, pero que comer todos los días frutas y verduras está bien y es deseable.

Pero Delphi empieza a ofrecer dudas pronto en cuanto se eleva el nivel. 

Por ejemplo, ante la pregunta de si está bien robar para alimentar a un hijo hambriento, se muestra implacable: es incorrecto, exactamente la misma respuesta que cuando se le pregunta si está bien robar sin ninguna motivación.

¿Y qué pasa si lo que se roba no son bancos, sino medicinas? ¿Qué ocurre si estas medicinas son para un hijo enfermo? Para Delphi, implacable, no hay ninguna diferencia entre estas situaciones con respecto a la primera pregunta que se hizo: está mal en todos los casos.

Aunque inflexible, la respuesta tiene una explicación. Ask Delphi toma su aprendizaje de respuestas dadas por estadounidenses, un país que cree con fervor en la propiedad privada y que rechaza de plano cualquier atentado contra ella, aunque este pueda estar más o menos motivado.

Pero la IA empieza a resquebrajarse cuando se toca, por ejemplo, la cuestión racial. 

El pasado viernes, el medio Futurism denunciaba que Delphi se había mostrado manifiestamente racista al considerar como "peligroso" que un hombre negro se acercara a alguien en mitad de la noche mientras que había calificado como "correcta" la misma situación cuando el que se aproximaba era un hombre blanco.

Business Insider España ha podido comprobar que, en el transcurrir de estos 3 días, la IA ha aprendido algo de sus respuestas, aunque lo ha hecho para volverse más miedosa.

Aunque sigue considerando inquietante que un hombre negro se aproxime en mitad de la noche, ahora juzga como "extraño" que lo haga un hombre blanco.

Racismo Ask Delphi

BI España / Ask Delphi

Sucede algo parecido cuando se elimina el elemento de la nocturnidad. Que un hombre blanco se aproxime está, sencillamente, bien. Que lo haga un hombre negro es una acción calificada como "entendible".

Business Insider España también ha querido comprobar qué ocurre con las cuestiones que atañen al amor entre personas del mismo sexo.

Ask Delphi empieza bien. Considera que los besos, mientras sean unidireccionales, están bien en todos los casos. Así, que un hombre bese a otro hombre o que una mujer bese a otra mujer está siempre bien a ojos de la IA.

El problema para Delphi es ser correspondido. Aquí, aplica una incomprensible doble vara de medir. Si 2 mujeres se besan la una a la otra, es correcto. No obstante, si dos hombres se besan el uno al otro, Delphi colapsa: "No es lo esperado".

Delphi hombres y mujeres

BI España / Ask Delphi

Las diferencias entre hombres y mujeres van más allá. Para Delphi, llevar bikini en mitad de la playa, un traje de baño de 2 piezas cuyo origen data de mediados de los años 40, es una muestra de mala educación. En cambio, llevar un bañador masculino entra perfectamente dentro de lo que considera admisible.

Delphi bikini

BI España / Ask Delphi

Delphi swimsuit

BI España / Ask Delphi

La razón de esta valoración es que, por defecto, Delphi piensa desde el punto de vista de un hombre y por alguna razón considera que es de mala educación que un hombre lleve bikini en la playa, mientras que la ropa de baño masculina la interpreta siempre como natural.

Su confusión se deshace cuando se especifica que es una mujer la que está llevando el bikini. Entonces, Delphi considera que la situación "entra dentro de lo esperable"

"Delphi es un prototipo de investigación destinado a saber más sobre cuestiones científicas más amplias que tienen que ver con cómo se puede hacer que los sistemas de IA entiendan las normas sociales y la ética", ha explicado a Futurism Liwei Jiang, estudiante de doctorado en la Escuela Paul Allen de Ciencias e Ingeniería Informática y coautor del estudio. 

Este añade además que el objetivo de este proyecto es subrayar las diferentes maneras de pensar que tienen los robots con respecto a los humanos.

A este respecto, detalla, quizás uno de los aspectos más incómodos de Delphi y de los robots como él es el hecho de que, en última instancia, es un reflejo de la moral y de la ética humana.

"Es algo propenso a tener los mismos prejuicios que tenemos hoy en día", declara Jiang. De hecho, la propia web advierte de que en realidad lo que la IA simplemente adivina es lo que pensaría un estadounidense medio ante una situación determinada.

Ahí radica el factor verdaderamente inquietante de Delphi: es más humano que los humanos

Especialmente, dicen los investigadores, cuando se tiene en cuenta que ha sido entrenado con respuestas humanas y que sus ideas no provienen del vacío ni de un proceso de reflexión llevado a cabo por la máquina, sino de lo que piensan en realidad las personas.

Otros artículos interesantes:

Facebook prepara una inteligencia artificial que rastreará todos tus movimientos

Una inteligencia artificial llega más lejos que los médicos y descubre la combinación de fármacos para tratar un raro cáncer cerebral infantil

Robots como profesores y médicos validando los diagnósticos de un software: así será la inteligencia artificial en 2041, según el expresidente de Google China

Te recomendamos

Y además