Como a inteligência artificial explicável tem sido aplicada no reconhecimento de câncer de pele e qual a evidência de sua utilidade?
Resposta curta: A inteligência artificial explicável (XAI) é comumente aplicada no desenvolvimento de redes neurais profundas para detecção de câncer de pele, mas falta avaliação sistemática e rigorosa de sua utilidade. A maioria dos estudos apenas aplica métodos existentes de XAI para interpretar decisões, com poucos avaliando o desempenho e a confiança de humanos usando sistemas CAD com XAI.
Resposta
A revisão sistemática investigou como a inteligência artificial explicável (XAI) é utilizada no reconhecimento de câncer de pele, focando em três questões: como a XAI é usada durante o desenvolvimento de novas redes neurais profundas (DNNs), quais tipos de visualizações são comumente empregados e se há avaliações sistemáticas da XAI com dermatologistas ou dermatopatologistas.
Foram incluídos 37 estudos publicados entre janeiro de 2017 e outubro de 2021. A maioria (19/37) simplesmente aplicou métodos existentes de XAI aos seus classificadores para interpretar a tomada de decisão. Alguns estudos (4/37) propuseram novos métodos de XAI ou aprimoraram técnicas existentes. Quatorze estudos abordaram questões específicas, como detecção de viés e impacto da XAI nas interações homem-máquina.
Apenas três estudos avaliaram o desempenho e a confiança de humanos usando sistemas de diagnóstico auxiliado por computador (CAD) com XAI. Isso indica que, embora a XAI seja comumente aplicada durante o desenvolvimento de DNNs para detecção de câncer de pele, falta uma avaliação sistemática e rigorosa de sua utilidade nesse cenário.
Os achados sugerem que a área ainda está em estágio inicial quanto à validação clínica da XAI. A maioria dos trabalhos é técnica e não envolve profissionais de saúde na avaliação. A revisão não informa detalhes sobre a amostra de imagens ou características dos estudos incluídos, nem sobre limitações específicas de cada um.
Para o médico, isso significa que as ferramentas de XAI disponíveis ou em desenvolvimento carecem de evidências robustas sobre seu impacto na prática clínica. A aplicação clínica rotineira ainda não está estabelecida, e a interpretação das saídas desses sistemas deve ser feita com cautela.
O que o estudo mostrou
Revisão sistemática que buscou estudos publicados entre janeiro de 2017 e outubro de 2021 em cinco bases de dados, incluindo apenas estudos sobre câncer de pele que aplicassem XAI a imagens dermatológicas. Foram incluídos 37 estudos. A maioria (19/37) aplicou métodos existentes de XAI para interpretar classificadores; 4/37 propuseram novos métodos ou melhorias; 14/37 abordaram questões específicas como viés e interação homem-máquina. Apenas três avaliaram desempenho e confiança de humanos usando CAD com XAI. O resumo não informa o número total de pacientes ou imagens analisadas.
Limitações
O resumo não detalha as limitações dos estudos incluídos, nem informa a qualidade metodológica dos mesmos. Não são fornecidos dados sobre amostra de imagens, características dos participantes ou tipos de câncer de pele abordados. A revisão em si pode ter limitações não descritas, como viés de publicação ou restrição a determinadas bases. A ausência de avaliação sistemática com dermatologistas limita conclusões sobre utilidade clínica.
Aplicação no consultório
A revisão indica que a XAI é uma área em desenvolvimento, sem evidências robustas de melhoria no diagnóstico ou na confiança do médico. Na prática clínica, sistemas de apoio à decisão com XAI ainda não devem ser adotados como padrão sem validação local. Para gestores de consultório, investir em tecnologias desse tipo requer cautela e avaliação crítica da literatura. A ausência de estudos com dermatologistas sugere que a implementação deve ser acompanhada de treinamento e monitoramento de desfechos.
Estudo citado
Explainable artificial intelligence in skin cancer recognition: A systematic review. European journal of cancer (Oxford, England : 1990), 2022.
Autores: Hauser K, Kurz A, Haggenmüller S, Maron RC, von Kalle C, Utikal JS, Meier F, Hobelsberger S, Gellrich FF, Sergon M, Hauschild A, French LE, Heinzerling L, Schlager JG, Ghoreschi K, Schlaak M, Hilke FJ, Poch G, Kutzner H, Berking C, Heppt MV, Erdmann M, Haferkamp S, Schadendorf D, Sondermann W, Goebeler M, Schilling B, Kather JN, Fröhling S, Lipka DB, Hekler A, Krieghoff-Henning E, Brinker TJ.
DOI: 10.1016/j.ejca.2022.02.025 · PubMed: PMID 35390650
Perguntas para aprofundar
- Quais métodos de XAI são mais utilizados em dermatologia e como eles auxiliam na interpretação de imagens?
- Existem estudos que avaliem o impacto da XAI na confiança e no desempenho de dermatologistas no diagnóstico de câncer de pele?
- Como a XAI pode ajudar a detectar vieses em algoritmos de reconhecimento de câncer de pele?
Mais sobre IA em patologia digital
- Como as redes neurais convolucionais se comparam aos médicos na classificação de câncer de pele em estudos com especialistas humanos?
- Modelos multimodais explicáveis podem apoiar o diagnóstico do carcinoma de mama na prática clínica?
- A inteligência artificial tem acurácia diagnóstica comparável à de médicos de família e dermatologistas para lesões cutâneas?
- Como a inteligência artificial está sendo aplicada na patologia oncológica e quais são as perspectivas futuras?
- Algoritmos de inteligência artificial podem ser usados com confiança para o diagnóstico de câncer de próstata na prática patológica?
Todas as perguntas sobre IA em patologia digital · Todos os temas · Versão em markdown