La "fiebre del oro" de la IA: una empleada a la que Google habría despedido por identificar sesgos en el algoritmo asegura que "las empresas no van a autorregularse"

Una antigua investigadora de Google, que aseguró haber sido despedida por identificar los sesgos que presentaban los algoritmos de inteligencia artificial, ha advertido de que la actual "fiebre del oro" que atraviesa esta tecnología va a hacer que las compañías no se autorregulen a menos que se las presione. 

Timnit Gebru, científica informática especializada en inteligencia artificial, fue codirectora del equipo de ética de la IA de Google. Un conflicto de intereses con la empresa que condujo a su despido en el año 2020. Gebru ha hablado ahora con The Guardian, en una entrevista que ha sido publicada este lunes en la que cuenta su versión de los hechos. 

La científica computacional tiene 40 años y ha trabajado también con gigantes de la talla de Apple o Microsoft. En la entrevista, Gebru explica que el entusiasmo que se ha generado en torno a la inteligencia artificial está provocando que las medidas de seguridad se dejen de lado. 

"A menos que exista presión externa para hacer algo diferente, las empresas no van a autorregularse", ha declarado la científica computacional. "Necesitamos regulación y necesitamos algo mejor que el simple afán de lucro".

"Parece una fiebre del oro", ha añadido Gebru. "De hecho, es una fiebre del oro. Y muchos de los que realmente están ganando dinero no son los que están metidos en ella. Pero son las personas las que deciden si todo esto debe hacerse o no. Deberíamos recordar que tenemos esa capacidad".

El CEO de Google explica los 3 puntos clave de su estrategia con la IA: "Sigo creyendo que la IA es demasiado importante como para no regularla"

La antigua empleada de Google abandonó la compañía poco después de publicar un artículo académico coescrito junto a otros compañeros de la organización en el que señalaba los sesgos que incorporan algunas herramientas de IA.

Al parecer, los altos ejecutivos de Google no estuvieron de acuerdo con el artículo y le pidieron que lo retirase o que eliminase su nombre y el de sus compañeros, según publicó entonces Business Insider. Gebru ha aclarado ahora a The Guardian que en aquel momento se negó a retractarse del artículo y que les indicó a sus directivos que solo retiraría su nombre si Google dejaba clara su postura.

Gebru cuenta que fue despedida poco después, pero Google dijo que había dimitido de su cargo.

"Creemos que nuestro enfoque de la inteligencia artificial debe ser tanto audaz como responsable", ha expresado Google en declaraciones a Business Insider. "Eso significa desarrollar la IA de una manera que maximice los beneficios positivos para la sociedad al tiempo que aborda los desafíos, guiados por nuestros Principios de inteligencia artificial".

"El artículo académico no dice nada sorprendente para nadie que trabaje con modelos lingüísticos", argumentó entonces un trabajador de Google que leyó la publicación de Gebru. "Básicamente hace que lo que está haciendo Google parezca malo".