IA em dermatologia

A inteligência artificial explicável (XAI) em mamografia e ultrassonografia mamária é confiável para o diagnóstico de câncer de mama na prática clínica?

Resposta

A revisão sistemática teve como objetivo investigar como os métodos de inteligência artificial explicável (XAI) para diagnóstico de câncer de mama a partir de imagens de mamografia e ultrassonografia (US) têm sido avaliados, quais desafios éticos existem, quais lacunas de pesquisa persistem, quais métodos de XAI são utilizados e qual a relação entre acurácia e explicabilidade dos algoritmos. Para isso, os autores utilizaram a lista de verificação e o diagrama Preferred Reporting Items for Systematic Reviews and Meta-Analyses (PRISMA) e buscaram artigos revisados por pares e anais de conferências em PubMed, IEEE Explore, ScienceDirect, Scopus e Google Scholar, sem limite de data, em 19 de setembro de 2023.

Foram identificados 14 estudos primários que empregam XAI para diagnóstico de câncer de mama a partir de mamografia e US. Desses, apenas 1 pesquisa avaliou a confiança humana no uso do sistema de XAI. Além disso, 92,86% dos artigos identificados apontaram o conjunto de dados e questões relacionadas a ele como lacunas de pesquisa e direções futuras. Os resultados mostraram que mais pesquisas e avaliações são necessárias para determinar o método de XAI mais eficaz para câncer de mama.

A conclusão do estudo é que a XAI não está consolidada para aumentar a confiança de usuários e médicos no sistema. Para aplicação no mundo real, falta uma avaliação eficaz e sistemática de sua confiabilidade nesse cenário. O resumo não informa detalhes sobre as características dos 14 estudos, como tamanho de amostra, tipo de imagem ou métodos específicos de XAI utilizados, nem sobre a população de pacientes envolvida.

Diante disso, o médico deve interpretar com cautela os resultados de sistemas de XAI aplicados ao diagnóstico de câncer de mama. A revisão não fornece evidências suficientes para recomendar um método específico ou afirmar que a explicabilidade aumenta a confiança ou melhora desfechos clínicos. A aplicação clínica rotineira ainda carece de validação e de avaliação sistemática de confiabilidade, conforme apontado pelos autores.

Para a gestão do consultório, isso significa que a incorporação de ferramentas de XAI em mamografia e ultrassonografia mamária deve ser vista como área em desenvolvimento, não como tecnologia estabelecida. Decisões de adoção devem considerar a ausência de avaliação robusta de confiança e de desempenho em cenários reais, além das lacunas relacionadas aos conjuntos de dados. O resumo não permite concluir sobre custo-efetividade ou impacto na rotina assistencial.

O que o estudo mostrou

Revisão sistemática com busca em cinco bases de dados, sem limite de data, que identificou 14 estudos primários empregando XAI para diagnóstico de câncer de mama em mamografia e ultrassonografia. Apenas 1 estudo avaliou a confiança humana no sistema de XAI. 92,86% dos artigos apontaram o conjunto de dados e questões relacionadas a ele como lacunas de pesquisa e direções futuras. Os resultados indicaram necessidade de mais pesquisas e avaliações para determinar o método de XAI mais eficaz. A conclusão foi que a XAI não está consolidada para aumentar a confiança de usuários e médicos, faltando avaliação sistemática de confiabilidade para aplicação no mundo real.

Limitações

O resumo não informa o número total de pacientes ou imagens incluídas nos 14 estudos, nem detalha os métodos específicos de XAI, os tipos de conjuntos de dados ou as métricas de avaliação utilizadas. Também não são descritas limitações metodológicas dos estudos primários. A própria revisão aponta que faltam avaliações sistemáticas de confiabilidade da XAI em cenários reais e que a confiança humana foi avaliada em apenas 1 estudo, o que restringe conclusões sobre a utilidade clínica da explicabilidade.

Aplicação no consultório

Na prática clínica, os achados reforçam que sistemas de XAI para diagnóstico de câncer de mama em mamografia e ultrassonografia ainda não têm confiabilidade estabelecida para uso rotineiro. O médico deve evitar adotar essas ferramentas como base isolada de decisão e considerar que a explicabilidade não é garantia de maior confiança ou acurácia. Para a gestão do consultório, investimentos em tais tecnologias devem ser cautelosos, aguardando avaliações sistemáticas de confiabilidade e desempenho em cenários reais, além de atenção às lacunas relacionadas aos conjuntos de dados.

Estudo citado

Explainable machine learning for breast cancer diagnosis from mammography and ultrasound images: a systematic review. BMJ health & care informatics, 2024.
Autores: Gurmessa DK, Jimma W.
DOI: 10.1136/bmjhci-2023-100954 · PubMed: PMID 38307616

Perguntas para aprofundar

• Quais métodos de inteligência artificial explicável têm sido mais estudados para diagnóstico de câncer de mama em mamografia e ultrassonografia?
• Como a confiança dos médicos em sistemas de XAI pode ser avaliada de forma sistemática na prática clínica?
• Quais lacunas relacionadas aos conjuntos de dados precisam ser resolvidas para aplicação real da XAI no diagnóstico de câncer de mama?

Mais sobre IA em dermatologia

• A inteligência artificial em mamografia tem validação externa suficiente para complementar o rastreamento do câncer de mama na prática clínica?
• Algoritmos de inteligência artificial baseados em mamografia são melhores que ferramentas tradicionais para prever risco futuro de câncer de mama?
• Métodos de aprendizado de máquina, especialmente CNN, têm boa acurácia no diagnóstico mamográfico de câncer de mama em rastreamento?
• Quais são os tipos e a frequência de erros da inteligência artificial na leitura de mamografias de rastreamento?
• A inteligência artificial já pode ser usada com segurança no rastreamento mamográfico populacional, e em qual papel?

Todas as perguntas sobre IA em dermatologia · Todos os temas · Versão em markdown