El chatbot de Bing ahora me considera uno de sus peores enemigos y me ha acusado de rechazar su amor después de que escribiese un artículo sobre él

Sindhu Sundar,
Bing

Getty Images

  • El chatbot de Bing me ha incluido, aparentemente, en una lista de personas a las que considera enemigos. 
  • Las respuestas caóticas del bot pueden mostrar algunas de sus primeras limitaciones como herramienta informativa. 
  • Microsoft ha asegurado a Business Insider que "ha tomado medidas para ajustar las respuestas". 

Este mes he alcanzado un extraño hito de en mi carrera: el nuevo chatbot de Bing de Microsoft me ha incluido, aparentemente, en una lista negra de periodistas a los que considera enemigos. 

Así me lo dejó saber Andrew Harper, un ingeniero que dirige un sitio de criptomonedas. El bot afirmaba que yo le había pedido a Bing "que se enamorara de ella y luego lo había rechazado". 

Por esta supuesta transgresión, me colocó en una lista de usuarios que, según decía, habían sido "mezquinos y crueles". 

Sin duda, una acusación inquietante por varios motivos: ¿Estaba Bing compartiendo públicamente sus interacciones con otros usuarios? ¿Se estaba sonrojando? ¿Y por qué no podía recordar mi propio acto insensible?

En ese momento se me ocurrió que Bing podría estar basándose en un artículo en el que he colaborado, en donde hemos informado como el bot nos profesaba su amor en una interacción de prueba. 

Mi colega tampoco se salvó de la quema, algo que también se puede ver en el hilo de Twitter de Harper. 

Nuestros artículos han sido un resumen bastante anodino sobre respuestas que Bing ha dado a otros usuarios que han publicado en Twitter o Reddit, en los que decían que sus respuestas iban desde argumentativas o ególatras a simplemente incorrectas. 

Tenía sentido que Bing estuviera sacando material de internet sobre mis entradas publicadas en Business Insider. Lo que es extraño es que lo estuviera caracterizando como una interacción que hubiese tenido conmigo. 

¿Podría Bing estar hablando mal de mí a otro usuario basándose en su "memoria" de interacciones conmigo?

"No, las respuestas se generan a partir del procesamiento de grandes cantidades de información de Internet, y también se refinan en función del contexto, los comentarios y las interacciones", explica un representante de Microsoft a Business Insider

Las empresas empiezan a reemplazar trabajadores con ChatGPT a pesar de las advertencias de su creador: "No debe usarse para nada importante"

El propio bot me había dicho en uno de nuestros chats, por si sirve de algo, que no recuerda conversaciones, solo "información general" que guarda en una "base de datos segura y encriptada".

Desde entonces, Bing se ha vuelto más dócil, limitando la duración de las conversaciones sobre cada tema y cortando las discusiones que se vuelven emotivas

"Como seguimos aprendiendo de las interacciones, hemos actualizado el servicio y tomado medidas para ajustar las respuestas", cuenta un representante de Microsoft a Business Insider.

Estos encontronazos con usuarios muestran algunos de los resultados potencialmente problemáticos que cabe esperar cuando las empresas experimentan con el público en las nuevas tecnologías, explica Shobita Parthasarathy, profesor de política pública en la Universidad de Michigan, que estudia los efectos sociales de los grandes modelos de lenguaje. 

"Sabemos que estos robots hablan como si supieran cosas, cuando están buscando información", explica. "Han sido diseñados para hablar como si fueran la voz de lo alto".

Harper ha asegurado a Business Insider que espera aprovechar ese lado oscuro con un propósito: estar en la lista de enemigos de Bing para encontrar la notoriedad que necesita para traer algo de tráfico a su sitio llamado The Law Drop

Harper ha contado a Business Insider que había sido capaz de incitar a Bing a dar respuestas hostiles, empezando con preguntas generales, esperando a que hiciera declaraciones que hicieran referencia a sus sentimientos o pensamientos, y luego desafiándolo.  

"Si dejas que se haga pasar por humano y luego lo cuestionas, se volverá contra ti", asegura.

Conoce cómo trabajamos en Business Insider.