El jefe de búsquedas de Google advierte de que los generadores de texto como ChatGPT pueden dar respuestas "convincentes, pero completamente inventadas"

El vicepresidente senior y jefe de búsquedas de Google ha advertido del peligro que supone confiar ciegamente en que los generadores de texto por inteligencia artificial van a ofrecer siempre respuestas veraces.

Prabhakar Raghavan ha declarado en entrevista para Welt Am Sonntag que en ocasiones veces pueden dar respuestas que están equivocadas, pero que parecen convincentes.

"El tipo de IA del que hablamos actualmente puede conducir a veces a algo que llamamos alucinación", señaló el directivo a este medio alemán. "Esto se expresa de tal forma que una máquina da una respuesta convincente pero completamente inventada", añadió Raghavan.

La semana pasada, Google aprovechó una presentación ante los medios de comunicación para presentar su generador de texto por inteligencia artificial, Bard, así como toda una serie de novedades relacionadas con la IA que ha anunciado la filial de Alphabet para competir contra Microsoft y su apuesta por ChatGPT.

Sin embargo, durante la presentación se pudo ver que Bard ofrecía una respuesta incorrecta al hacerle una pregunta sobre el telescopio espacial James Webb. 

Las acciones de Alphabet cayeron estrepitosamente por culpa de este error y a raíz del creciente temor a que el "monopolio aletargado de las búsquedas", como denominó a Google Sam Altman (fundador de la desarrolladora de ChatGPT), corra peligro por culpa de Microsoft. 

Google anuncia distintas funciones que incorporan la IA a su buscador y a Maps: queda por ver cómo será su propuesta para competir contra ChatGPT

Raghavan indicó en su entrevista para Welt Am Sonntag que Google sintió la "urgencia" de anunciar Bard, pero matizó que también sienten una "gran responsabilidad". "Desde luego, no queremos engañar al público".

"Estamos estudiando cómo integrar estas posibilidades en nuestras funciones de búsqueda, especialmente para aquellas preguntas para las que no existe una única respuesta", apuntó el vicepresidente senior de Google.

Las declaraciones de Raghavan parecen responder a las críticas que han recibido tanto Alphabet como su CEO, Sundar Pichai, por ofrecer un lanzamiento "apresurado" y "chapucero" de Bard.

Por ejemplo, Maarten Bosma, exingeniero de investigación de Google Brain, una de las divisiones que se encarga del desarrollo de inteligencia artificial en Alphabet, tuiteó que la presentación daba a entender que la empresa no se estaba tomando la IA lo suficientemente en serio.