El nuevo chatbot de Google asegura a un experto en IA que ha sido entrenado utilizando datos de Gmail: la empresa defiende que eso es inexacto y que Bard "cometerá errores"

Sarah Jackson
| Traducido por: 
Una ilustración del logo de Google junto a la página web de Bard.

Jakub Porzycki/NurPhoto vía Getty

  • Google Bard ha comenzado a funcionar esta misma semana y ha tenido un lanzamiento un poco accidentado.
  • El generador de texto por inteligencia artificial ha afirmado que ha sido entrenado con datos de Gmail (entre otra fuentes), pero Google sostiene que eso es inexacto y que esta versión de Bard es un "experimento inicial" que "cometerá errores".

Bard, el generador de texto por inteligencia artificial de Google, ha comenzado a poder utilizarse en determinados mercados esta misma semana, pero ya ha sufrido algunos inconvenientes.

Kate Crawford, experta en IA ha publicado una conversación que mantuvo con este nuevo chatbot en la que ella le preguntaba de dónde procedía el conjunto de datos con el que había sido entrenado su modelo lingüístico. En su captura de pantalla, Bard responde que "procede de diversas fuentes", siendo una de ellas "datos internos de Google", incluida información de Gmail.

"¿A alguien le preocupa un poco que Bard diga que su conjunto de datos de entrenamiento incluya... ¿Gmail?", tuiteó Crawford. "Supongo que eso es completamente falso, de lo contrario Google está cruzando algunos límites legales bastante graves".

Unas horas más tarde, Google intentó aclarar la situación.

Sundar Pichai

"Bard es un experimento inicial basado en grandes modelos lingüísticos [LLM, por sus siglas en inglés] y cometerá errores. No está entrenado con datos de Gmail", señaló la compañía a través de su cuenta de Twitter.

En un mensaje diferente que ya ha sido eliminado (quizá por haber cometido una errata en el nombre de Bard), Google también indicaba: "No se utilizará información privada durante el proceso de entrenamiento de Barbs". 

En la respuesta original que le dio el generador de texto a la experta en inteligencia artificial, Bard expresó que también había sido entrenado utilizando "conjuntos de datos de texto y de código de páginas como Wikipedia, GitHub y Stack Overflow", así como información de empresas que "se asociaron con Google para proporcionar información para el entrenamiento de Bard".

Sundar Pichai, CEO de Google, ha dado instrucciones a sus empleados para que intenten anticiparse a los errores que cometa el chatbot a medida que la gente comience a utilizarlo. "Conforme más personas empiecen a usar Bard y evalúen su capacidad, nos sorprenderán. Las cosas saldrán mal", apuntó el directivo en un correo electrónico que envió a sus trabajadores este martes, según CNBC.

Conoce cómo trabajamos en Business Insider.