Nadie espera que un chatbot sea empático. Lo que sí esperamos son respuestas mediocres, datos inventados y algún que otro comentario racista. De hecho, yo mismo he escrito sobre esas desventajas de la IA.

Sin embargo, los nuevos chatbots también pueden generar respuestas que suenen muy humanas, como ya sabemos. En una prueba reciente, han demostrado una sorprendente superioridad en lo que debería ser una de las actividades más intrínsecamente humanas de todas: ejercer de médico.

Para realizar la prueba, un equipo de investigadores de la Universidad de California en San Diego se metió en r/AskDocs, un foro de Reddit en el que profesionales sanitarios registrados y verificados responden a las preguntas de los usuarios. Los investigadores seleccionaron casi 200 preguntas representativas del foro, desde las más tontas ("Me he tragado un palillo y un amigo me ha dicho que me voy a morir") hasta las más aterradoras ("¿Aborto espontáneo un día después de una ecografía normal?"). Después, introdujeron las preguntas en ChatGPT y encargaron a otro grupo de expertos sanitarios una evaluación ciega de las respuestas, tanto de la IA como de los médicos.

Los resultados son sorprendentes. En primer lugar, ChatGPT supera con creces a los médicos en cuanto a utilidad. Casi siempre, las respuestas del chatbot eran 3 o 4 veces más fiables que las de los humanos. Además, los bots no mostraron esa preocupante tendencia a inventarse cosas que sí hemos visto en otras circunstancias.

Pero lo más sorprendente es esto: de media, las respuestas de los chatbots eran 7 veces más empáticas que las de los humanos. 7 veces. Proporcionaban justo lo que quieres de tu médico: atención y conexión emocional. Es como si en la serie de Star Trek, el insensible androide Data hubiera descubierto cómo emular de forma convincente los modales de la Dra. Crusher.

Ahora bien, hay que admitir que el listón de los médicos es bastante bajo en lo que se refiere a la empatía. Sin embargo, la aparente facilidad con la que el robot manejaba los problemas médicos, indica que puede llegar a darse un uso real de sus funciones en este campo. 

No creo que los chatbots basados en grandes modelos lingüísticos vayan a revolucionar el periodismo ni a mejorar las búsquedas en internet. Supongo que estoy abierto a la idea de que acelerarán la codificación de software y el análisis de hojas de cálculo. Pero ahora creo que, con algunos retoques, podrían mejorar mucho la atención sanitaria.

ChatGPT podría ser médico virtual, abogado y analista: todos los exámenes que el 'chatbot' de OpenAI ha aprobado hasta la fecha

El objetivo de este experimento no era demostrar que ChatGPT podía sustituir a un médico o una enfermera, sino demostrar que un chatbot puede desempeñar un papel en la prestación de asistencia sanitaria. El sistema sanitario privado de EEUU no cuenta con personal suficiente, aumentando mucho la carga de los trabajadores. Y algo similar sucede en España, donde muchos profesionales denuncian que la sanidad pública tampoco dispone de la plantilla necesaria para el volumen de personas que necesitan atención.

"La gente está desconectada de la sanidad y desesperada", afirma John Ayers, epidemiólogo computacional de la Universidad de California en San Diego y autor principal del nuevo estudio. Así que buscan respuestas en foros como r/AskDocs. "Los pacientes han buscado esta vía alternativa, no ha sido cosa de los médicos", añade el experto.

Los bots son más atentos

Los ChatGPT tienen más empatía que los médicos humanos

Nota: Las cifras representan la clasificación por expertos del tratamiento médico dispensado a los pacientes online.

Fuente: Ayers: “Comparing Physician and Artificial Intelligence Chatbot Responses”

La presión para responder a los mensajes que deja la gente en los foros se ha vuelto intensa. La pandemia aceleró la atención a distancia de médicos a pacientes, e incluso durante el primer año de COVID, los estudios sugirieron que los médicos dedicaban casi una hora diaria a gestionar sus correos electrónicos. Si a esto le añadimos la tecnocracia de los historiales médicos electrónicos, algunos sanitarios dedican la mitad de su tiempo diario a estas tareas.

Estudios anteriores se preguntaban si a los pacientes y a los médicos les gustaba utilizar estos sistemas de mensajería; Ayers analizó si el sistema funcionaba realmente. "Usamos mensajes reales. Nadie lo había hecho antes", afirman. El resultado, basado en la calidad de las interacciones, fue definitivo. "ChatGPT gana por goleada", indica Ayers.

Los bots son más eficientes

El ChatGPT supera en calidad a los médicos humanos

Nota: Las cifras representan la clasificación por expertos del tratamiento médico dispensado a los pacientes online.

Fuente: Ayers: “Comparing Physician and Artificial Intelligence Chatbot Responses”

Basándose en el éxito inicial del robot, Ayers está dispuesto a ver qué más puede hacer. "Queremos empezar a realizar ensayos controlados aleatorios, en los que se evalúen los mensajes enviados a los pacientes en función de los resultados obtenidos", dice, no solo si los mensajes son precisos o empáticos, sino si ayudan a preservar la salud del paciente. ¿Y si un chatbot pudiera ayudar a alguien que se recupera de un infarto a seguir una dieta baja en sal, recordarle que debe tomar su medicación o mantener al día su tratamiento? "En ese caso, un mensaje podría salvarle la vida", argumenta Ayers.

A pesar de todas las promesas del mundo de la tecnología, la idea de un chatbot atento y empático sigue pareciendo peligrosa. Nadie cree que ChatGPT se preocupe de verdad ni que sea inteligente. 

Pero si nuestro actual sistema sanitario hace imposible que los seres humanos se cuiden unos a otros, quizá un falso cuidado salve vidas. Puede que un asistente artificialmente inteligente no sea más humano que los humanos, pero sí más humano en general.

Los sistemas de IA especializados ya son bastante buenos diagnosticando. Están altamente entrenados para detectar afecciones como un tumor o sepsis, utilizando los resultados de pruebas específicas. Pero son caros y difíciles de construir. Por eso, el sector médico apuesta por los chatbots como herramienta más económica y omnipresente. 

Decenas de empresas trabajan en aplicaciones para usos que van desde el diagnóstico de enfermedades a la ayuda en el papeleo que, de algún modo, se ha convertido en responsabilidad tanto de médicos como de pacientes. Si tienes seguro privado, es posible que tu compañía tenga algún tipo de chatbot que atienda por teléfono.

Si le preguntas a la gente si le gusta la idea, la mayoría te dice que no. El 60% de los estadounidenses encuestados recientemente por el Pew Research Center afirmaban que no querrían que un sistema de inteligencia artificial les diagnosticara o les recetara tratamientos. Pero es probable que lo consigan de todos modos. 

Que no salga de aquí, pero gran parte de lo que hace el personal sanitario ya es un poco formulista, al menos de cara al paciente. Te encuentras mal y llamas a una enfermera; te hacen preguntas preestablecidas para determinar si debes ir a urgencias o tomarte una pastilla. Es lo que conocemos como triaje. Incluso hay resultados médicos que se envían por correo electrónico. 

Este tipo de encuentros que se producen ahora entre sanitarios y pacientes, podría decirse que son un poco robóticos.

Y, ¿sabes a quién se le dan muy bien las cosas robóticas? A los robots. Recientemente, un equipo de investigadores de Harvard mostró docenas de descripciones de problemas de salud a 3 grupos: médicos, personas sin formación médica y ChatGPT. Pidieron un diagnóstico de la enfermedad y, a continuación, recomendaciones de triaje. 

A los humanos sin formación médica se les permitió hacer una búsqueda en internet. Pero incluso con esta ayuda, eran pésimos en el diagnóstico. No es de extrañar. Sin embargo, según informan los investigadores, el chatbot era casi tan bueno en el diagnóstico (con una puntuación superior al 80%) como los médicos humanos (que obtuvieron más del 90%). En triaje, ChatGPT acertó algo más del 70%. Suena mal comparado con el 91% de los médicos, pero aún así es mucho. Se trata de un chatbot de uso general que resulta casi tan bueno como un médico plenamente capacitado.

Ahora imagina añadir a ese conjunto de habilidades tareas sanitarias como programar citas, solicitar autorización al seguro o buscar historiales médicos electrónicos. "Son tareas para las que nadie se dedicó a la medicina, y suponen enormes quebraderos de cabeza, enormes pérdidas de tiempo y un desgaste físico y emocional", afirma Teva Brender, médico residente de la Universidad de California en San Francisco. Quizás un chatbot pueda hacerse cargo de estas cuestiones, que el médico solo tendría que revisar para confirmar que son correctas.

Parece un escenario probable. Los chatbots altamente capacitados trabajarían en tándem con médicos, enfermeras y asistentes para ofrecer respuestas más empáticas y más completas a las personas que necesitan atención. Como escribió el equipo de Ayers en 2019, las personas están tan desesperadas por obtener servicio médico que publican imágenes de sus propios genitales en el subreddit r/STD con la esperanza de obtener un diagnóstico preciso. Es algo muy triste que evidencia lo deficiente que es el sistema sanitario.

En este contexto, la IA podría suponer una mejora. "Un médico humano respaldado por la base de conocimientos y la capacidad de procesamiento de los sistemas de IA solo puede ser mejor. Es totalmente probable que los pacientes recurran al asesoramiento médico de sistemas automatizados con disponibilidad 24/7, en lugar de esperar meses para una cita con un experto", afirma Jonathan Chen, médico de la Facultad de Medicina de la Universidad de Stanford que ha estudiado los sistemas de IA.

Para mejorar estos sistemas basados en IA, mucha gente (incluido el equipo de Ayers) trabaja ahora en modelos lingüísticos más pequeños, ajustados con precisión a la información médica. 

El atractivo de ChatGPT es que es un generalista que extrae información de todo lo que hay en Internet. Pero así es como se cuelan los prejuicios y la desinformación. Si los chatbots médicos tuvieran acceso a los historiales médicos individuales de las personas, podrían ofrecer consejos más precisos. "Cuando esta tecnología consiga acceder a los historiales médicos electrónicos, cambiarán las reglas del juego", afirma Ayers.

Si te preocupa que en el futuro sea la IA quien acceda a tu historial médico para darte un diagnóstico, no te culpo. Pero, los malos resultados de la ciencia ficción son bastante distópicos. Después de años de trabajo, la Administración de Alimentos y Medicamentos (FDA) aún no tiene un marco listo para regular la IA y el aprendizaje automático en los dispositivos médicos. 

Alguien tendrá que resolver todas las cuestiones de responsabilidad que rodean el asesoramiento de un chatbot. Por otra parte, las startups de IA sanitaria querrán las versiones más baratas con el mayor impacto financiero, que no necesariamente tendrán los mejores resultados para los pacientes. 

Y si una empresa de atención sanitaria consigue afinar un chatbot con medicina de vanguardia, entonces cualquier empresa puede hacer lo mismo con la homeopatía o velas perfumadas, o tonterías antivacunas. Esos chatbots vomitarán desinformación peligrosa, tanto con elocuencia como con empatía.

"Ese es el peor de los casos. Esto no es algo que la gente de Silicon Valley pueda hacer de forma aislada", dice Greg Corrado, responsable de Health AI en Google. Habría que desarrollar estos sistemas en colaboración con expertos sanitarios, no solo con ejecutivos de la salud, para asegurarse de que son privados y seguros y de que realmente ayudan a la gente.

No será fácil, pero puede ser necesario. Lamentablemente, el sistema sanitario tiene deficiencias. Y hasta que eso cambie, estaría bien tener robots que nos ayuden a mantenernos sanos. Si al mismo tiempo pueden simular que se preocupan por nosotros (quizá incluso mejor que los médicos), sería un bonito mensaje.