Salud
Chatbots en salud: beneficios y riesgos
Los expertos crean el primer consenso sobre el uso de los chatbots en salud con un documento con criterios éticos y técnicos para garantizar la veracidad de la información, la privacidad de los datos y el uso equitativo de estas herramientas digitales.
El consenso, organizado por el Instituto #SaludsinBulos en colaboración con el Colegio Profesional de Fisioterapeutas de la Comunidad de Madrid, incluye un documento con el objetivo de establecer criterios estandarizados para el desarrollo y validación de los chatbots en salud basados en grandes modelos de lenguaje, como el LLM.
Los chatbots son aplicaciones de software que utilizan inteligencia artificial para interactuar con las personas mediante conversaciones escritas o habladas. En el ámbito de la salud, estos sistemas pueden ofrecer desde consultas sobre síntomas y tratamientos hasta apoyo emocional y seguimiento de condiciones crónicas.
En el consenso también han participado representantes de médicos de Atención Primaria (SEMG, SEMERGEN), dolor (SED), reumatología (SER), cáncer (Grupo de Tratamiento de Tumores Digestivos), enfermería (FAECAP, AECPAL), farmacia (Consejo General de Colegios Oficiales de Farmacéuticos), fisioterapia (SoGaFi), pacientes (AECOSAR), empresas de tecnología sanitaria (AMETIC); así como expertos en IA (Asociación de Innovadores en eSalud), ética (OdiseIA) y comunicación en salud (COM Salud).
Beneficios de estas herramientas
La equidad en la atención sanitaria, la mejora en el diagnóstico y tratamiento, la educación en salud, el acceso inmediato a información adaptada a las necesidades del paciente, la mejora en la comunicación entre profesionales sanitarios y pacientes y la lucha contra los bulos de salud son algunos de los beneficios que ofrecen los chatbots en salud basados en la evidencia científica.
Una revisión de estudios publicada en Frontiers in Digital Health corrobora la utilidad de los chatbots basados en IA Generativa para “adaptarse a los objetivos y contextos de salud de un individuo” y “ofrecer apoyo instantáneo para alguien que se esfuerza por mejorar su rutina de salud”.
Además, en el ámbito del dolor, un trabajo publicado en Indian Journal of Anaesthesia concluyó que el uso de estos chatbots conseguía aumentar la satisfacción del paciente, mejorar la adherencia al tratamiento y reducir el tiempo de consulta con respecto a la distribución de folletos informativos o las conversaciones con el médico.
Riesgos de los chatbots de salud
Sin embargo, el documento de consenso también revela riesgos como:
- Sesgos derivados de los intereses del desarrollador.
- Fuentes de datos deficientes, alucinaciones o datos inventados.
- La privacidad.
- El autodiagnóstico.
- Ausencia de una normativa clara sobre su uso y responsabilidad.
“No todos los asistentes conversacionales proporcionan información veraz y exacta. Depende, en gran medida, de su entrenamiento. Y, aunque cada vez es menos frecuente con los nuevos modelos, también es necesario prevenir y vigilar sus fallos, como las alucinaciones que no se atienen a la bibliografía con la que ha sido entrenado”, advierte Carlos Mateos, coordinador del Instituto #SaludsinBulos y vicepresidente de la Asociación de Innovadores en eSalud (AIES).
En lo que respecta a los criterios de información veraz que tienen que cumplir los chatbots de salud, el consenso destaca la necesidad de adaptarse al contexto del paciente, utilizar múltiples fuentes y actualizar de forma constante la evidencia en la que se basa.
Todo ello contribuirá a la educación en salud, promoviendo la identificación y difusión de información confiable para contrarrestar la desinformación.
En cuanto a la ética, los asistentes conversacionales deben contar con mecanismos que aseguren la responsabilidad sobre la exactitud o veracidad de la información proporcionada, así como garantizar la privacidad y seguridad de los datos.
Además, el uso de los sistemas de IA debe ser equitativo y accesible para todas las personas, sin discriminación geográfica, social o de otra índole y tienen que estar libres de sesgos que puedan favorecer la desinformación.
Los firmantes del consenso aseguran que la supervisión e intervención de los profesionales sanitarios debe ser fundamental y los pacientes tienen que entender que se trata de una herramienta complementaria, que no reemplaza a los profesionales.
Por último, en relación con los criterios de comunicación, el consenso recuerda la importancia de la escucha activa, ser capaces de ajustar la información según la rutina y el ritmo de vida del paciente y que las recomendaciones del chatbot promuevan mejoras en las actividades diarias del paciente.
