Ética, viés e explicabilidade da IA em saúde

Ferramentas de inteligência artificial podem tornar a revisão sistemática mais eficiente na prática clínica e na gestão do consultório?

Resposta

A revisão sistemática teve como objetivo mapear ferramentas e plataformas automatizadas que empregam abordagens de inteligência artificial (IA) e avaliar os benefícios e desafios relatados no uso desses métodos na síntese de evidências em saúde. Foram incluídas revisões que implementaram métodos de IA, como aprendizado de máquina, aprendizado profundo, redes neurais ou outras aplicações que permitem o desempenho total ou semi-autônomo de uma ou mais etapas do desenvolvimento da síntese de evidências.

Os resultados mostraram que doze revisões foram incluídas, utilizando nove ferramentas diferentes para implementar quinze métodos distintos de IA. A maioria dos métodos (onze) foi aplicada nas etapas de triagem das revisões, correspondendo a 73% do total. Os demais dividiram-se em dois na extração de dados (13%) e dois na avaliação de risco de viés (13%).

Os benefícios relatados foram ambíguos, especialmente na extração de dados, enquanto dez revisões relataram vantagens, indicando que as plataformas de IA têm sido adotadas com sucesso variável na síntese de evidências. No entanto, os resultados são qualificados pela dependência da autoavaliação dos autores das revisões, o que pode introduzir viés.

Ainda parece necessária validação humana extensiva na implementação de métodos de IA nesta fase, embora avaliações adicionais sejam requeridas para definir a contribuição geral dessas plataformas na melhoria da eficiência e qualidade da síntese de evidências. O resumo não informa o desenho detalhado dos estudos incluídos, nem o tamanho da amostra de cada um.

Para o médico brasileiro, a aplicação prática reside na compreensão de que ferramentas de IA podem auxiliar tarefas como triagem de artigos, mas seu uso requer supervisão e validação por especialistas. Na gestão do consultório, a adoção dessas tecnologias deve ser cautelosa, considerando a necessidade de treinamento e os desafios relatados.

O que o estudo mostrou

Trata-se de uma revisão sistemática que buscou revisões sistemáticas e outros tipos de revisão que implementaram métodos de IA, publicadas até abril de 2021, em quatro bases de dados (Medline, Embase, CDSR e Epistemonikos). Foram incluídas doze revisões que usaram nove ferramentas diferentes para implementar quinze métodos de IA. A maioria dos métodos (onze) foi aplicada na triagem; dois na extração de dados e dois na avaliação de risco de viés. Os benefícios relatados foram ambíguos, com vantagens reportadas em dez revisões, mas os resultados são limitados pela dependência da autoavaliação dos autores.

Limitações

O resumo não informa o desenho detalhado dos estudos incluídos, nem o tamanho da amostra de cada um. Os resultados são qualificados pela dependência da autoavaliação dos autores das revisões, o que pode introduzir viés de relato. Além disso, a busca foi realizada até abril de 2021, e o resumo não menciona avaliação de qualidade ou risco de viés das revisões incluídas. A necessidade de validação humana extensiva limita conclusões sobre a autonomia das ferramentas.

Aplicação no consultório

Na prática clínica, ferramentas de IA podem agilizar a triagem de literatura científica, mas exigem validação humana e não substituem o julgamento crítico do médico. Para a gestão do consultório, a adoção dessas tecnologias deve ser feita com cautela, considerando custos de treinamento e a necessidade de supervisão especializada. O médico pode utilizar essas ferramentas como apoio à atualização científica, mas deve estar atento às limitações e à qualidade das evidências geradas.

Estudo citado

Using artificial intelligence methods for systematic review in health sciences: A systematic review. Research synthesis methods, 2022.
Autores: Blaizot A, Veettil SK, Saidoung P, Moreno-Garcia CF, Wiratunga N, Aceves-Martins M, Lai NM, Chaiyakunapruk N.
DOI: 10.1002/jrsm.1553 · PubMed: PMID 35174972

Perguntas para aprofundar

• Quais são os principais desafios na implementação de ferramentas de IA para triagem de estudos em revisões sistemáticas?
• Como a validação humana pode ser integrada de forma eficiente ao uso de IA na síntese de evidências?
• Quais critérios os médicos devem considerar ao escolher plataformas de IA para auxiliar na revisão de literatura?

Mais sobre Ética, viés e explicabilidade da IA em saúde

• A inteligência artificial já pode ser usada na avaliação e tratamento de fraturas osteoporóticas e por fragilidade na prática clínica?
• Como a inteligência artificial e o aprendizado de máquina estão sendo aplicados ao longo da cirurgia bariátrica, e o que a evidência atual permite concluir?
• Qual é o papel atual da inteligência artificial no manejo da hiperplasia prostática benigna, segundo uma revisão sistemática?
• A inteligência artificial já pode ser usada na prática clínica para predizer, diagnosticar e tratar a doença renal crônica?
• A inteligência artificial já pode apoiar o diagnóstico de depressão na prática clínica, e quais são os limites metodológicos e éticos?

Todas as perguntas sobre Ética, viés e explicabilidade da IA em saúde · Todos os temas · Versão em markdown