Seguridad del paciente e inteligencia artificial: oportunidades y desafíos para la prestación de atención médica

La introducción de ChatGPT de OpenAI a finales de 2022 marcó un hito importante en la evolución de la inteligencia artificial generativa (genAI), captando la atención de todos los sectores económicos. En el ámbito sanitario, se espera que la genAI mejore la seguridad y la calidad de la atención, reduzca los costes y mejore la experiencia tanto de pacientes como de profesionales sanitarios. Sin embargo, también existe la preocupación de que la genAI pueda introducir nuevas amenazas para la seguridad del paciente.

En enero de 2024, el IHI Lucian Leape Institute convocó a un panel de expertos para explorar en profundidad las posibilidades de genAI y los posibles riesgos para la seguridad del paciente. El objetivo del panel era identificar áreas en las que genAI podría mejorar la seguridad, identificar posibles amenazas y sugerir maneras de maximizar los beneficios y minimizar los daños. El panel revisó la literatura sobre IA y seguridad del paciente y participó en un sólido debate presencial centrado en tres posibles casos de uso de genAI en la atención médica: soporte para la documentación, soporte para la toma de decisiones clínicas y chatbots de atención al paciente.

Basado en la revisión y el debate del panel de expertos del IHI Lucian Leape Institute sobre las implicaciones de la IA para la seguridad del paciente, este informe resume:

• Para los tres casos de uso, los posibles beneficios, riesgos y desafíos de la implementación de genAI en la atención clínica;
• Una revisión detallada de las estrategias de mitigación y monitoreo y las recomendaciones del grupo de expertos; y
• Una evaluación de las implicaciones de genAI para el campo de la seguridad del paciente.

Como parte de su trabajo para explorar la promesa de genAI y sus riesgos potenciales para la seguridad del paciente, el panel de expertos también revisó las consideraciones para grupos clave y brindó recomendaciones específicas y estrategias de mitigación para estos públicos:

• Pacientes y defensores de los pacientes
• médicos clínicos
• Profesionales de Seguridad y Calidad
• Sistemas de atención de salud
• Desarrolladores de GenAI
• Investigadores
• Reguladores y formuladores de políticas

Cómo citar este documento:
Instituto Lucian Leape. Seguridad del Paciente e Inteligencia Artificial: Oportunidades y Desafíos para la Atención Médica. Boston: Institute for Healthcare Improvement; 2024. (Disponible en ihi.org)

Contenido relacionado

• Inteligencia artificial en la atención médica: implicaciones para la seguridad de los pacientes y la fuerza laboral : este informe de innovación del IHI sirve como contenido fundamental para el informe del IHI Lucian Leape Institute .