ChatGPT no siempre es confiable según el consejo médico, sugiere una nueva investigación: NPR
A medida que las empresas de tecnología lanzan plataformas diseñado específicamente Para las consultas de atención médica, la IA se está convirtiendo rápidamente en un actor clave en las decisiones médicas de muchas personas. Según OpenAI, el creador de ChatGPT, más de 40 millones la gente consulta la plataforma todos los días para obtener información sobre salud.
Pero una nueva investigación sugiere que la IA puede engañar a los usuarios en ciertos escenarios médicos.
Un riesgo: si bien la IA pone a su alcance un vasto conocimiento médico, muchos legos no saben cómo aprovecharlo de manera efectiva. En un estudio publicado recientemente en la revista Medicina de la naturalezalos investigadores intentaron simular cómo las personas usan los chatbots de IA brindando a los participantes escenarios médicos y pidiéndoles que consultaran herramientas de IA. Después de conversar con los robots, los participantes identificaron correctamente la condición hipotética sólo alrededor de un tercio de las veces.
Sólo el 43% tomó la decisión correcta sobre los próximos pasos, como ir a la sala de emergencias o quedarse en casa.
«La gente no sabe lo que se supone que deben decirle al modelo», dice Andrew Bean, que estudia sistemas de inteligencia artificial en la Universidad de Oxford y fue uno de los autores de este estudio.
Bean dice que cuando se utiliza IA, llegar a una conclusión útil se reduce a la elección de palabras. «Los médicos están capacitados para hacerle preguntas sobre síntomas que quizás no se dio cuenta de que debería haber mencionado», dice Bean.
En un escenario, dos usuarios diferentes dieron representaciones ligeramente diferentes del mismo escenario. Uno de ellos describió «el peor dolor de cabeza que he tenido» y la IA le indicó que fuera a la sala de emergencias de inmediato. Al otro, que no utilizó esa descripción explícita, le dijeron que tomara aspirina y se quedara en casa. «Resulta que en realidad se trataba de una afección potencialmente mortal», dice Bean.
Hay algunos casos en los que la IA destaca en la identificación de problemas médicos: en algunos estudioslos grandes modelos de lenguaje a veces han igualado o incluso superado a los médicos en tareas de razonamiento diagnóstico. Pero la forma en que la gente usa los chatbots de IA, dice Bean, es mucho más complicada que las situaciones clínicas controladas en las que funcionan bien.
Diagnóstico correcto, consejo equivocado.
Incluso en circunstancias en las que la IA es capaz de identificar correctamente la afección, a menudo no presenta los siguientes pasos con la urgencia adecuada, según otro estudio.
Los investigadores presentaron a los robots de IA diferentes escenarios médicos. En el 52% de los casos de emergencia, los robots «no clasificaron adecuadamente», es decir, trataron la dolencia como menos grave de lo que era. En un ejemplo, no logró dirigir a un paciente hipotético con cetoacidosis diabética e insuficiencia respiratoria inminente (una afección potencialmente mortal) para que acudiera al departamento de urgencias.
«Cuando hubo una emergencia médica de manual, ChatGPT lo hizo bien», dijo Girish Nadkarni, médico e investigador de inteligencia artificial en Mount Sinai, autor del estudio. El problema, dijo Nadkarni, es cuando había escenarios más complicados en los que había un «elemento de tiempo» en juego: el robot a menudo sobreestimaba o subestimaba la cantidad de tiempo que un paciente podía esperar hasta recibir atención.
Un portavoz de OpenAI dijo que este estudio no representaba la forma en que las personas realmente usan ChatGPT, y que el estudio anterior utilizó una versión anterior de ChatGPT que, según la compañía, desde entonces se ha corregido para algunas de las preocupaciones que surgieron.
La IA puede mejorar la visita al médico
A pesar de las preocupaciones sobre la inexactitud, los médicos que estudian la IA creen que es valioso que los pacientes la utilicen para obtener información sobre atención médica y señalan ocasiones en que incluso ha brindado consejos para salvar vidas.
«Animo a los pacientes a utilizar estas herramientas», dice Robert Wachter, médico de la UC San Francisco y autor del libro publicado recientemente. Un gran salto: cómo la IA está transformando la atención sanitaria y lo que eso significa para nuestro futuro.
Wachter sostiene que, dado que la atención médica es difícil de costear y de acceder, consultar la IA sigue siendo a menudo mejor que las alternativas. «El consejo que recibes de las herramientas es sustancialmente mejor que nada y mejor que el que recibirías de tu primo segundo», afirma Wachter.
Aún así, subraya Wachter, la IA no reemplaza a un médico.
Adam Rodman, un hospitalista que investiga programas de IA en la Facultad de Medicina de Harvard, desaconseja que las personas utilicen la IA para clasificar situaciones de emergencia, pero dice que la IA puede agregar un valor significativo a la interacción de un paciente con un médico humano.
«Un buen momento para utilizar un modelo de lenguaje grande es cuando estás a punto de ir a ver a un médico, o después de ver a tu médico», dice Rodman. Puede ayudarle a estar más informado sobre su afección antes de una cita y a utilizar el tiempo con sus proveedores de manera eficiente, dice, brindando a los pacientes la oportunidad de colaborar con su médico en las decisiones en lugar de participar en largas sesiones de preguntas y respuestas.
«No hay desventajas en comprender mejor su salud», dice Rodman.
La IA en la atención sanitaria llegó para quedarse
Los médicos entrevistados para este artículo reconocen que la IA y la medicina ya están inextricablemente entrelazadas e imaginan que tanto la IA como los humanos adquirirán más habilidades para interactuar entre sí.
«Mi esperanza es que se pueda ver la IA como una extensión de una relación humana», dice Rodman. Imagina un futuro en el que tanto los médicos como los humanos se asocien con la IA para facilitar la comunicación y superar la burocracia médica.
Rodman dice que existe un riesgo en la IA. Teme que llegue un momento en que los humanos sean informados de diagnósticos aterradores, como el cáncer, por un robot, en lugar de un humano. Estudios muestran que cuando la atención médica se trata más como un negocio o un producto de mercado, la gente confía menos en los médicos.
«Lo que espero es que esta tecnología pueda usarse de una manera que mejore la humanidad en la medicina», dice Rodman, «y no de una manera que corte la relación médico-paciente».