Patient Safety and Artificial Intelligence

Error message

Error 3: Unsupported language pair.; Failed to initialize a glossary.

Segurança do Paciente e Inteligência Artificial

O IHI Lucian Leape Institute convocou um painel de especialistas interprofissionais em janeiro de 2024 para explorar a promessa da inteligência artificial generativa (genAI) na assistência médica e os riscos potenciais para a segurança do paciente. O painel se concentrou em três casos de uso clínico: suporte à documentação, suporte à decisão clínica e chatbots voltados para o paciente. O relatório resultante discute as descobertas e recomendações do painel de especialistas.
Image
Patient Safety and Artificial Intelligence

Relatório do Painel de Especialistas do IHI Lucian Leape Institute

Segurança do Paciente e Inteligência Artificial

Segurança do Paciente e Inteligência Artificial

"Como uma ferramenta de suporte, a IA pode economizar tempo dos médicos e ajudá-los a avaliar casos de pacientes, melhorar a precisão do diagnóstico e reduzir custos, orientando os médicos para os exames mais econômicos."

Relatório do Painel de Especialistas do IHI Lucian Leape Institute

Segurança do Paciente e Inteligência Artificial

Segurança do Paciente e Inteligência Artificial

"Embora a IA genética possa melhorar a qualidade do atendimento, reduzir custos e aprimorar as experiências dos pacientes e dos médicos, essas ferramentas também têm falhas que podem comprometer a segurança do paciente."

Relatório do Painel de Especialistas do IHI Lucian Leape Institute

Segurança do Paciente e Inteligência Artificial

Segurança do Paciente e Inteligência Artificial

"Os chatbots oferecem a oportunidade de expandir o acesso ao atendimento e democratizar o acesso a informações confiáveis sobre assistência médica."

Relatório do Painel de Especialistas do IHI Lucian Leape Institute

Segurança do Paciente e Inteligência Artificial

Segurança do Paciente e Inteligência Artificial

"A necessidade de supervisão humana dos resultados clínicos da genAI representará um grande desafio para a segurança do paciente."

 

Participe dos webinars sobre Segurança do Paciente e IA em 19 de agosto e 11 de setembro .

Relatório do Painel de Especialistas

Segurança do paciente e inteligência artificial: oportunidades e desafios para a prestação de cuidados

O painel de especialistas do IHI Lucian Leape Institute (LLI) revisou e discutiu três casos de uso que destacam áreas onde a inteligência artificial generativa (genAI) pode impactar significativamente a segurança do paciente: suporte à documentação, suporte à decisão clínica e chatbots voltados para o paciente. O painel também discutiu as implicações mais amplas da genAI para o campo da segurança do paciente e o trabalho dos profissionais de segurança.

O objetivo do painel de especialistas era identificar áreas onde a IA genética poderia melhorar a segurança, nomear ameaças potenciais e sugerir maneiras de maximizar os benefícios e minimizar os danos.

Com base na revisão e discussão do painel de especialistas sobre as implicações da IA ​​para a segurança do paciente, o LLI publicou um relatório, Segurança do Paciente e Inteligência Artificial: Oportunidades e Desafios para a Prestação de Cuidados , que resume:

  • Para os três casos de uso, os potenciais benefícios, riscos e desafios da implementação da genAI no atendimento clínico;
  • Uma revisão detalhada das estratégias de mitigação e monitoramento e recomendações do painel de especialistas; e
  • Uma avaliação das implicações da genAI para o campo da segurança do paciente.

Juntamente com essas recomendações, outras medidas de proteção devem ser implementadas com base nas seguintes preocupações destacadas pelo painel:

  • Confiar apenas nos médicos para verificar novamente a precisão dos resultados e recomendações de IA é uma estratégia de segurança não confiável.
  • O risco de desqualificação é alto e exigirá estratégias proativas de mitigação.
  • As eficiências impulsionadas pela IA simplesmente resultarão em mais tarefas atribuídas aos médicos, sem alívio de sua carga de trabalho e carga cognitiva atuais.

Principais descobertas

  • A GenAI veio para ficar e crescerá e evoluirá rapidamente.
  • Há benefícios e riscos potenciais que devem ser abordados.
  • Muitas das preocupações com segurança estão relacionadas à confiabilidade, que decorrem em parte da precisão e em parte dos desafios de descobrir quais informações são confiáveis.
  • Outras questões importantes relacionadas à segurança precisam ser consideradas, incluindo transparência, a importância da conexão humana, equidade e muito mais.
  • Alguns desafios serão abordados por órgãos reguladores ou de acreditação em nível federal; muito será determinado localmente, particularmente por programas de governança e segurança dentro dos sistemas de saúde.

Recomendações do Painel de Especialistas

Os membros do painel estão entusiasmados com o potencial das ferramentas genAI para reduzir o esgotamento e a carga cognitiva dos clínicos, facilitar o fornecimento de práticas baseadas em evidências, melhorar a precisão do diagnóstico e potencialmente reduzir custos. Eles também levantaram preocupações sobre vários riscos potenciais à segurança do paciente que devem ser identificados, mitigados e monitorados.

Na busca pelo desenvolvimento contínuo de ferramentas genAI e sua integração na prestação de cuidados clínicos, o painel de especialistas fez estas recomendações:

  • Atender e proteger o paciente.
  • Aprenda com os médicos, envolva-se e ouça-os.
  • Avaliar e garantir a eficácia da IA ​​e a ausência de preconceitos.
  • Estabelecer governança, supervisão e orientação rigorosas de IA tanto para sistemas individuais de prestação de serviços de saúde quanto para o governo federal.
  • Seja intencional com o design, implementação e avaliação contínua de ferramentas de IA.
  • Participe da aprendizagem colaborativa em todos os sistemas de saúde.

Considerações para grupos-chave

O relatório também inclui recomendações específicas e estratégias de mitigação para grupos-chave:

  • Pacientes e defensores dos pacientes
  • Clínicos
  • Profissionais de qualidade e segurança do paciente
  • Sistemas de saúde
  • Desenvolvedores GenAI
  • Pesquisadores
  • Reguladores e formuladores de políticas


O IHI é grato à Fundação Gordon e Betty Moore pelo generoso financiamento que apoiou a convocação do painel de especialistas e a criação e disseminação do relatório.

Relatório de Segurança do Paciente e IA

O relatório completo inclui a análise do painel de três casos de uso clínico (benefícios, riscos e desafios), recomendações e estratégias de mitigação, uma avaliação do impacto da genAI no campo da segurança do paciente e considerações para grupos-chave.

Ver relatório
Image
IHI Lucian Leape Institute Report: Patient Safety and Artificial Intelligence

Painel de especialistas

O IHI Lucian Leape Institute (LLI) agradece aos especialistas que contribuíram para este trabalho. [Asterisco (*) denota membros do LLI.]

Co-Presidentes

  • Robert Wachter, MD,* Professor e Presidente, Departamento de Medicina, Universidade da Califórnia, São Francisco
  • Kaveh Shojania, MD, Professor e Vice-Presidente (Qualidade e Inovação), Departamento de Medicina, Universidade de Toronto

Participantes especialistas

  • Nasim Afsar, MD, MBA, MHM, Diretor de Saúde, Oracle
  • David Bates, MD, MS, Chefe de Medicina Interna Geral, Brigham and Women's Hospital; Professor de Medicina, Harvard Medical School
  • Leah Binder, MA, MGA, Presidente e CEO, The Leapfrog Group
  • David Classen, MD, MS, Professor de Medicina, Faculdade de Medicina da Universidade de Utah; Diretor de Informações Médicas, Pascal Metrics
  • Pamela Cipriano, PhD, RN, NEA-BC, FAAN, Presidente, Conselho Internacional de Enfermeiros; Professora, Escola de Enfermagem da Universidade da Virgínia
  • Patricia Folcarelli, PhD, MA, RN, Vice-presidente Sênior, Serviços de Atendimento ao Paciente e Diretora de Enfermagem, Beth Israel Deaconess Medical Center
  • Tejal Gandhi, MD, MPH, CPPS, Diretor de Segurança e Transformação, Press Ganey
  • Eric Horvitz, MD, PhD, Diretor Científico, Microsoft
  • Gary Kaplan, MD, FACMPE,* Ex-CEO, Virginia Mason Franciscan Health; Presidente, Lucian Leape Institute
  • Della Lin, MS, MD, FASA, Consultora; Diretora Executiva, Anesthesia Patient Safety Foundation; Médico Líder, Hawaii Safer Care
  • Kedar Mate, MD,* Presidente e CEO, Institute for Healthcare Improvement
  • Muhammad Mamdani, MPH, MA, PharmD, Vice-presidente, Ciência de Dados e Análise Avançada, Unity Health Toronto
  • Patricia McGaffigan, MS, CPPS, Vice-presidente, Segurança do Paciente, Institute for Healthcare Improvement
  • Genevieve Melton-Meaux, MD, PhD, Diretora de Análise e Inovação em Cuidados, M Health Fairview
  • Eric Poon, MD, MPH, Diretor de Informações de Saúde, Duke Health
  • Vardit Ravitsky, PhD, Presidente e CEO, The Hastings Center
  • Tina Shah, MD, MPH, Diretora Clínica, Abridge
  • Rod Tarrago, MD, Líder de Informática Clínica, Amazon Web Services, Medicina Acadêmica
  • Beth Daley Ullem, MBA, cofundadora, Patients for Patient Safety; copresidente, SPS AI Steering Committee; conselho de diretores, Institute for Healthcare Improvement

Revisores externos: Especialistas em segurança do paciente e IA e membros do LLI*

  • Julia Adler-Milstein, PhD, Professora e Chefe da Divisão de Informática Clínica e Transformação Digital, Universidade da Califórnia, São Francisco
  • Brian Anderson, MD, Presidente e CEO, Coalition for Health AI (CHAI)
  • Joanne Disch, PhD, RN, FAAN,* Professora ad Honorem, Escola de Enfermagem da Universidade de Minnesota
  • Michael Howell, MD, MPH, Diretor Clínico e Diretor Adjunto de Saúde, Google
  • Bob Kocher, MD, Professor Adjunto, Departamento de Política de Saúde da Universidade de Stanford; Pesquisador Sênior Não Residente, USC Schaffer Center; Parceiro, Venrock
  • Julianne Morath, BSN, MS, CPPS,* Coach de liderança e consultora; corpo docente afiliado, Departamento de Medicina, Universidade de Washington, Seattle
  • Charles Vincent, PhD, MPhil,* Professor de Psicologia, Universidade de Oxford; Professor Emérito de Pesquisa em Segurança Clínica, Imperial College, Londres
  • Daniel Yang, MD, Vice-presidente, IA e Tecnologias Emergentes, Kaiser Permanente


Recursos adicionais

Peter Lee speaks about AI in his keynote at the 2023 IHI Forum.


Sobre o IHI Lucian Leape Institute

Composto por líderes de pensamento internacionais com um interesse comum na segurança do paciente, o IHI Lucian Leape Institute (LLI) funciona como um grupo de reflexão para identificar novas abordagens para melhorar a segurança do paciente.

Saiba mais sobre o LLI