Ética, viés e explicabilidade da IA em saúde

A inteligência artificial explicável e o aprendizado de máquina já permitem prever comorbidades com desempenho confiável na prática clínica?

Resposta

A revisão sistemática reuniu a literatura sobre predição de comorbidades com técnicas de aprendizado de máquina e inteligência artificial explicável (XAI). Os autores buscaram responder quais métodos existem, qual o desempenho relatado e em que medida os modelos são interpretáveis. É um tema relevante porque a comorbidade afeta a qualidade de vida do paciente e os custos em saúde, e a predição baseada em IA poderia apoiar a medicina de precisão e um cuidado mais holístico.

Do ponto de vista de desempenho, parte dos modelos apresentou resultados considerados relativamente altos: 33 modelos alcançaram acurácia entre 80-95% e AUC entre 0,80-0,89. Isso sugere que há sinal útil nos dados usados para prever comorbidades. No entanto, o resumo não detalha quais comorbidades específicas foram mais bem previstas nem quais algoritmos tiveram melhor desempenho, o que limita a transposição direta desses achados para decisões clínicas individualizadas.

A interpretabilidade é um ponto central. Os autores destacam que este é o primeiro trabalho a examinar métodos de ML e XAI para predição de comorbidade. A ausência de uma avaliação padronizada de XAI impede comparações justas entre estudos. Além disso, 72% dos estudos apresentaram preocupações altas ou incertas quanto ao risco de viés, o que exige cautela antes de incorporar esses modelos na rotina.

O escopo das comorbidades estudadas foi limitado, variando de 1 a 34 (média de 6), e nenhuma comorbidade nova foi identificada em razão da limitação de dados fenotípicos e genéticos. A conclusão aponta que, com o desenvolvimento da capacidade explicável de ML na predição de comorbidades, há possibilidade significativa de identificar necessidades de saúde não atendidas, ao evidenciar comorbidades em grupos de pacientes antes não reconhecidos como de risco para determinadas condições.

O que o estudo mostrou

Trata-se de revisão sistemática conduzida com o framework PRISMA em três bases (Ovid Medline, Web of Science e PubMed). De 829 artigos únicos, 58 textos completos foram avaliados e 22 artigos com 61 modelos de aprendizado de máquina foram incluídos. Desses, 33 modelos atingiram acurácia de 80-95% e AUC de 0,80-0,89; 72% dos estudos tinham preocupações altas ou incertas quanto ao risco de viés. O escopo de comorbidades variou de 1 a 34 (média de 6).

Limitações

O resumo não informa detalhes sobre a população dos estudos nem sobre validação externa dos modelos. O escopo de comorbidades foi limitado (1 a 34, média de 6) e nenhuma comorbidade nova foi identificada devido à limitação de dados fenotípicos e genéticos. A falta de avaliação padronizada de XAI impede comparações justas, e a maioria dos estudos apresentou preocupações altas ou incertas quanto ao risco de viés.

Aplicação no consultório

Os achados ainda não sustentam adoção rotineira de modelos preditivos de comorbidade na prática, dada a heterogeneidade metodológica e o risco de viés. Para o médico, o valor está em acompanhar o tema e exigir, ao avaliar ferramentas de IA, informações sobre desempenho, interpretabilidade e validação. Na gestão do consultório, isso orienta decisões de incorporação tecnológica com cautela e critérios claros de avaliação, priorizando soluções cujos modelos sejam explicáveis e auditáveis.

Estudo citado

Prediction of disease comorbidity using explainable artificial intelligence and machine learning techniques: A systematic review. International journal of medical informatics, 2023.
Autores: Alsaleh MM, Allery F, Choi JW, Hama T, McQuillin A, Wu H, Thygesen JH.
DOI: 10.1016/j.ijmedinf.2023.105088 · PubMed: PMID 37156169

Perguntas para aprofundar

• Quais métodos de inteligência artificial explicável têm sido usados para prever comorbidades?
• Como o risco de viés compromete a confiança em modelos de aprendizado de máquina para comorbidades?
• O que falta para padronizar a avaliação de explicabilidade em modelos preditivos de comorbidade?

Mais sobre Ética, viés e explicabilidade da IA em saúde

• A inteligência artificial já pode ser usada na avaliação e tratamento de fraturas osteoporóticas e por fragilidade na prática clínica?
• Modelos de aprendizado de máquina são melhores que ferramentas clínicas para prever a necessidade de protocolo de hemorragia maciça no trauma?
• Como a inteligência artificial explicável pode aumentar a confiança e a adoção de ferramentas de IA no diagnóstico por imagem?
• Como a inteligência artificial e o aprendizado de máquina estão sendo aplicados ao longo da cirurgia bariátrica, e o que a evidência atual permite concluir?
• Qual é o papel atual da inteligência artificial no manejo da hiperplasia prostática benigna, segundo uma revisão sistemática?

Todas as perguntas sobre Ética, viés e explicabilidade da IA em saúde · Todos os temas · Versão em markdown