Inteligência Artificial na Assistência à Saúde: Implicações para a Segurança do Paciente e da Força de Trabalho

A excitação em torno do uso de inteligência artificial (IA) na assistência médica é palpável, especialmente para ferramentas de IA generativa (genAI) como o ChatGPT. No entanto, os benefícios potenciais específicos de tais ferramentas na assistência médica, bem como os riscos e desafios não intencionais potencialmente associados à sua implementação, não são bem compreendidos.

Para entender melhor o cenário atual, o IHI conduziu um projeto de inovação de 90 dias, encomendado pelo IHI Lucian Leape Institute , para identificar aplicações de alto nível do genAI juntamente com suas vantagens e desvantagens, incluindo consequências inesperadas ou novos riscos de segurança para pacientes e a força de trabalho da área da saúde. O projeto de inovação analisou três tipos principais de aplicações clínicas na área da saúde: suporte à documentação, suporte à decisão clínica e chatbots que fornecem suporte ao paciente.

Embora as aplicações de IA genética na área da saúde sejam muito promissoras, elas também apresentam sérios riscos potenciais que devem ser considerados e abordados antes de uma implementação mais ampla.

Este relatório descreve:

• Uma revisão detalhada de três aplicações principais de genAI na área da saúde: suporte à documentação, suporte à decisão clínica e chatbots que fornecem suporte ao paciente;
• Análise e revisão das três aplicações genAI — incluindo funções, benefícios, riscos e exemplos — relevantes para ambientes de internação, cuidados primários e cuidados ambulatoriais;
• Riscos potenciais à segurança do paciente e consequências não intencionais resultantes de ferramentas genAI; e
• Considerações e recomendações para o trabalho contínuo de ajuste fino das ferramentas de IA e mitigação de riscos potenciais.

Como citar este documento:
Feske-Kirby K, Shojania K, McGaffigan P. Inteligência artificial em assistência médica: implicações para a segurança do paciente e da força de trabalho . Boston: Institute for Healthcare Improvement; 2024. (Disponível em ihi.org)

Conteúdo Relacionado

• O Relatório de Inovação do IHI serve como conteúdo fundamental para o relatório relacionado do IHI Lucian Leape Institute , Segurança do Paciente e Inteligência Artificial: Oportunidades e Desafios para a Prestação de Cuidados .