El racismo en la IA: las caras de las personas blancas generadas con inteligencia artificial son más creíbles que las de personas racializadas

Algunos rostros generados por inteligencia artificial ya son indistinguibles de las fotografías de personas reales. Al menos, eso es lo que ha descubierto un nuevo estudio publicado en la revista Psychological Science.

El informe, realizado por científicos de las universidades de Canadá, Australia y Londres, ha consistido en la realización de dos experimentos que ponían a prueba la capacidad de las personas para distinguir contenidos reales de aquellos que han sido generados por inteligencia artificial.

En uno de ellos, en el que se les pedía a 124 participantes que indicasen si una cara era real o había sido generada por IA, los investigadores descubrieron que los rostros de personas blancas creados por inteligencia artificial se consideraban humanos con más frecuencia que las fotografías de rostros humanos reales. 

También se pidió a los participantes que valorasen su confianza en sus respuestas en una escala de 0 a 100 puntos. Según los responsables del experimento, el 66% de las imágenes de caras blancas generadas por IA fueron calificadas como humanas, mientras que el 51% de las imágenes reales fueron identificadas como tales.

"Sorprendentemente, los rostros blancos creados por inteligencia artificial pueden pasar de forma convincente por más reales que los rostros humanos y la gente no se da cuenta de que la están engañando", afirman los investigadores en el estudio.

ChatGPT podría servir para hacer el bien, pero, como muchos otros modelos de IA, está plagado de prejuicios racistas y discriminatorios

En cambio, los resultados han sido diferentes en el caso de las imágenes de personas racializadas. El informe señala que esto puede deberse a que la mayoría de los modelos de IA han sido entrenados de forma desproporcionada con caras blancas, lo que hace que esas imágenes sean "especialmente realistas".

Uno de los autores de la investigación, Zak Witkower, ha declarado a The Guardian que esto significa que la inteligencia artificial va a "producir situaciones más realistas para los rostros blancos que para los de otras etnias".

El equipo de investigadores ha advertido que, si no se abordaban estos problemas, el sesgo podría tener consecuencias en el mundo real. Unas consecuencias que podrían ir desde "influir en las elecciones hasta la búsqueda de niños desaparecidos".

En ese sentido, ya ha habido varios ejemplos de sesgos encontrados en los datos de entrenamiento y la salida de modelos populares de IA, incluidas las primeras versiones de ChatGPT. Los expertos llevan tiempo advirtiendo de que la adopción generalizada de modelos de inteligencia artificial podría causar problemas a los colectivos vulnerables si no se abordan adecuadamente estas problemáticas.