- Los chatbots pueden generar respuestas humanas y empáticas, superando a los médicos humanos en una prueba de atención médica en Reddit.
- La falta de suficientes médicos y enfermeras en el sistema de salud actual ha llevado a que los pacientes busquen respuestas en foros en línea.
- Aunque existen preocupaciones sobre la IA en la atención médica, se espera que los chatbots trabajen en conjunto con los profesionales de la salud para brindar respuestas más completas y empáticas.
- ¿Ya conoces nuestra cuenta de Instagram? Síguenos.
Nadie espera que los chatbots le hablen sutileza y afecto. De hecho, es más probable recibir escritura mediocre salpicada con hechos inventados y un poco de racismo. Yo mismo he escrito sobre esas desventajas de la inteligencia artificial (IA).
Pero estos nuevos y populares chatbots, como sabemos, también pueden generar respuestas que parecen humanas a indicaciones y preguntas. Y en una prueba reciente, esa capacidad le dio a los bots una sorprendente superioridad en una de las actividades más intrínsecamente humanas: servir como médico.
Para realizar la prueba, un equipo de investigadores de la Universidad de California, buscó en r/AskDocs, foro de Reddit donde profesionales de la salud verificados responden preguntas médicas de las personas.
Los investigadores seleccionaron casi 200 preguntas representativas en el foro. Desde las que suenan tontas como «me tragué un palillo, un amigo dijo que me voy a morir» hasta las aterradoras como «¿Es normal un aborto espontáneo un día después de una ecografía?».
Luego introdujeron las preguntas en la interfaz virtual de ChatGPT e hicieron que un grupo separado de expertos en atención médica realizara una evaluación ciega de las respuestas tanto de la IA como de los médicos.
Los resultados fueron impactantes. Por un lado, ChatGPT salió muy por arriba de los médicos humanos en cuanto a «utilidad». Casi invariablemente, las respuestas del chatbot se calificaron como tres o cuatro veces más confiables que las de los obsoletos humanos.
Además, los bots no mostraron ninguna de las tendencias a inventar cosas que suelen tener en otras circunstancias.
Pero lo más llamativo: las respuestas del chatbot, fueron calificadas siete veces más «empáticas» que las de los humanos. ¡Siete veces! Les brindaron justo lo que deseas de tu médico: atención y una conexión emocional. ¡Toma eso, Hipócrates!
Es cierto que la vara está baja para superar a los médicos humanos en temas de empatía. Aun así, la aparente facilidad con la que el bot podía manejar las preocupaciones médicas, tanto en estilo como en sustancia, presagia un uso real en el mundo real para estas cosas.
Soy escéptico de que los bots de IA impulsados por grandes modelos lingüísticos revolucionarán el periodismo; o que incluso mejorarán las búsquedas en internet.
Supongo que estoy abierto a la idea de que acelerarán la codificación de software y el análisis de hojas de cálculo. Pero ahora creo que con algunos retoques, los chatbots podrían mejorar radicalmente cómo las personas interactúan con los proveedores de atención médica.
¿Por qué hicieron la investigación?
El objetivo del experimento de empatía no era mostrar que ChatGPT podría reemplazar a un médico o una enfermera. Fue para mostrar que un chatbot podría tener un papel en la prestación de atención.
El sistema de salud con fines de lucro no contrata suficientes médicos y enfermeras; espera que los que contrata traten a más y más pacientes, sin descanso. Y eso a nadie le gusta… excepto a la gente que se enriquece gracias al enfoque industrial.
«La gente está desconectada de la atención médica y está desesperada», dice John Ayers, epidemiólogo computacional de UC San Diego. Entonces están buscando respuestas en foros como r/AskDocs. «Así es como lo hacen los pacientes ahora. Y los médicos no se inscribieron»
La presión para responder a esos mensajes se ha vuelto intensa. Con la pandemia de covid-19 se aceleró el contacto remoto en línea entre médicos y pacientes.
Incluso en el primer año de la pandemia, la investigación sugirió que los médicos pasaban casi una hora todos los días laborales lidiando con sus bandejas de entrada de correo electrónico.
A esto agrega el trato con otra tecnocracia de registros médicos electrónicos y terminará con algunos médicos dedicando la mitad de su tiempo todos los días a estas idas y venidas.
Es suficiente que el seguro suela facturar por el tiempo dedicado a responder mensajes, lo que lo convierte en una fuente potencial de ingresos más allá de las interacciones cara a cara.
Estudios anteriores preguntaron si a los pacientes y médicos les gusta usar estos sistemas de mensajería; Ayers analizó si el sistema realmente «funciona».
«Utilizamos mensajes reales», dice. «Nadie ha hecho eso antes». El resultado, basado en la calidad de las interacciones, fue definitivo. «ChatGPT ganó de forma aplastante», dice Ayers. «Esto probablemente sea durante el horario de máxima audiencia».
Lo siguiente son ensayos aleatorios
Basado en el éxito inicial del bot, Ayers está listo para ver qué más puede manejar. «Queremos comenzar ensayos controlados aleatorios. Unos, en los que evalúe los mensajes de los pacientes frente a los resultados de los pacientes», dice.
Esto, no solo si los mensajes son precisos o empáticos, sino también si ayudan a mantener a las personas más saludables o vivas por más tiempo.
¿Qué pasaría si un chatbot pudiera ayudar a alguien que se está recuperando de un ataque cardiaco a seguir una dieta baja en sal, recordarle que tome sus medicamentos y mantener su tratamiento actualizado? «Un mensaje en ese caso podría salvar la vida de ese paciente», dice Ayers.
A pesar de todas las promesas del mundo tecnológico de las mascotas robóticas y los psicoterapeutas de IA, la idea de un chatbot cariñoso todavía se siente desestabilizadora, incluso peligrosa.
Nadie piensa que a ChatGPT «realmente» le importe, más de lo que creen que es «realmente» inteligente. Pero si nuestro sistema de salud actual, que no funciona, hace que sea imposible que los humanos se cuiden unos a otros. Tal vez el cuidado falso salve vidas reales.
Un asistente artificialmente inteligente puede no ser más humano que humano, pero tal vez sea más humano.
Los sistemas de inteligencia artificial especializados, no los chatbots tontos, ya son bastante buenos en el diagnóstico. Están altamente capacitados para detectar una cosa, como un tumor o sepsis, utilizando resultados de pruebas específicas como entrada.
Sin embargo, son caros y difíciles de construir. Entonces, el establecimiento médico está saltando a los chatbots como una herramienta más barata y ubicua.
Empresas ya trabajan en chatbots de ayuda médica
Actualmente, docenas de empresas están trabajando en aplicaciones, con el objetivo de usos que van desde el diagnóstico de enfermedades hasta ayudar con el papeleo que de alguna manera se ha convertido en responsabilidad tanto de los médicos como de los pacientes.
Si tienes la suerte de tener un seguro de salud, es probable que tu compañía de seguros ya tenga algún tipo de chatbot con el que puedas hablar antes de llamar a un humano por teléfono.
Si le preguntas a la gente si les gusta esa idea, en su mayoría dicen que no. El 60% de los encuestados recientemente por el Centro de Investigación Pew dijo que no querría un sistema de inteligencia artificial que le diagnostique o proponga tratamientos. Pero probablemente lo van a tener de todos modos.
No le digas a nadie que dije esto, pero mucho de lo que hacen los trabajadores de la salud ya es un poco formulado. Me refiero al menos en el nivel más bajo, la interfaz orientada al paciente.
Te sientes mal y llamas a una enfermera asesora; hacen preguntas preestablecidas para determinar si debes ir a una sala de emergencias o simplemente tomar un paracetamol.
Eso se llama triaje. O, si tienes acceso electrónico a tus registros médicos, tal vez obtengas los resultados de un nuevo conjunto de pruebas y envíes un correo electrónico a tu médico para preguntar qué significan. De cualquier manera, no disfrutas de estos encuentros. Son superficiales. Robóticos, incluso.
Bueno, ¿sabes quién es muy bueno en cosas robóticas? ¡Los robots! Recientemente, un equipo de investigadores de Harvard mostró decenas de descripciones de problemas de salud a tres grupos: médicos, personas sin formación médica y ChatGPT. Pidieron a todos que diagnosticaran la enfermedad y luego recomendaciones de clasificación.
A los humanos que no eran médicos se les permitió hacer una búsqueda en internet, lo que los especialistas médicos, con desdén llaman «doctor Google». Pero incluso con la asistencia en línea, los humanos no capacitados fueron terribles en el diagnóstico.
No hay sorpresa allí. Pero, como informan los investigadores en una preimpresión reciente, lo que significa que aún no ha sido revisado por pares, el chatbot fue casi tan bueno en el diagnóstico. Obtuvieron una puntuación superior al 80% como los médicos humanos cuya puntuación fue superior al 90%.
Y en la clasificación, ChatGPT obtuvo un poco más del 70% de respuestas correctas. Eso suena horrible en comparación con el 91% del médico, ¡pero aun así! Este es un chatbot de propósito general, casi tan bueno como un médico completamente capacitado.
Ahora imagina agregar a ese conjunto de habilidades el tipo de tareas de atención médica mundanas y que consumen mucho tiempo que los chatbots deberían poder manejar, como programar citas, solicitar autorización previa del seguro y manejar registros médicos electrónicos.
«Estas son tareas para las que nadie entró en la medicina, y son dolores de cabeza masivos, sumideros de tiempo masivos, agotadores física y emocionalmente», dice Teva Brender, médico residente de la Universidad de California en San Francisco.
Tal vez un chatbot podría generar al menos los inicios de este tipo de tráfico burocrático, junto con todos los correos electrónicos a los pacientes. «El médico podría hojearlo y decir: ‘Sí, esto es correcto’ y enviarlo», dice Brender.
Ese parece un escenario probable. Los chatbots altamente capacitados trabajarán en conjunto con médicos, enfermeras y asistentes médicos para brindar respuestas más empáticas y completas a las personas que necesitan atención.
Como escribió el equipo de Ayers en 2019, las personas están tan desesperadas por recibir ayuda médica que publican imágenes de sus propios genitales en el subreddit r/STD con la esperanza de obtener un diagnóstico preciso. Eso es simplemente triste más allá de lo creíble, y una acusación asombrosa de nuestro sistema de salud verdaderamente inhumano y de mierda.
En un sistema tan pobre, la IA en realidad podría ser una mejora
«Un médico humano respaldado por la base de conocimientos y el poder de procesamiento de los sistemas de IA solo será mejor», dice Jonathan Chen, médico de la Facultad de Medicina de la Universidad de Stanford que ha estado estudiando los sistemas de IA.
«Es muy probable que los pacientes busquen consejos médicos imperfectos de sistemas automatizados con disponibilidad las 24 horas del día, los 7 días de la semana, en lugar de esperar meses para una cita con un experto humano».
Para mejorar esos sistemas impulsados por IA, muchas personas, incluido el equipo de Ayers, ahora están trabajando en modelos de lenguaje más pequeños ajustados con información médica. El atractivo de ChatGPT, tal como es, es que es un aporte generalista de todo lo que hay en internet.
Pero así es como se cuelan los sesgos y la información errónea. Si das a esos chatbots médicos acceso a los registros médicos individuales de las personas, y podrían ofrecer consejos dirigidos con mayor precisión. «Cuando esta tecnología obtiene acceso a los registros de salud electrónicos, ese es el verdadero cambio de juego», dice Ayers.
Si un futuro de consejos de salud impulsados por IA, completo con acceso a sus registros médicos, te preocupa, no te culpo. Los malos resultados de ciencia ficción aquí son bastante distópicos.
Después de años de trabajo, la Administración de Alimentos y Medicamentos (FDA) aún no cuenta con un marco que esté listo para regular la IA y el aprendizaje automático en dispositivos médicos. Alguien tendrá que resolver todas las cuestiones de responsabilidad relacionadas con los consejos de los chatbots, especialmente cuando son malos.
Las nuevas empresas de IA de atención médica querrán las versiones más baratas con el mayor impacto financiero, que no necesariamente tendrán los mejores resultados para los pacientes.
Y si una empresa de atención médica logra afinar un chatbot con medicina de última generación, entonces cualquier empresa puede hacer lo mismo con la homeopatía o las velas perfumadas, o lo que dicen contra las vacunas.
Esos chatbots arrojarán información errónea peligrosa, tanto con elocuencia como con empatía.
«Ese es el peor de los casos», dice Greg Corrado, jefe de Salud AI en Google. «Esto no es algo que la gente de Silicon Valley pueda hacer de forma aislada».
Eso significa desarrollar estos sistemas junto con expertos en atención médica, no solo ejecutivos de atención médica, para garantizar que sean privados y seguros y que realmente ayuden a las personas.
No será fácil, pero puede ser necesario. Lamentablemente, nuestro sistema de atención médica no está diseñado para proporcionar a todos cuidadores humanos decentes.
Y hasta que eso cambie, sería bueno tener robots que pudieran ayudarnos a mantenernos saludables. Si pueden simular que se preocupan por nosotros al mismo tiempo, tal vez incluso mejor que los médicos humanos, bueno, ese sería un buen mensaje para recibir.
AHORA LEE: Nvidia muestra cómo podría ser el futuro de los videojuegos con inteligencia artificial
TAMBIÉN LEE: Cómo la inteligencia artificial cambiará la industria de la música y qué desafíos y oportunidades traerá
