# Como a inteligência artificial explicável tem sido aplicada no reconhecimento de câncer de pele e qual a evidência de sua utilidade?

> A inteligência artificial explicável (XAI) é comumente aplicada no desenvolvimento de redes neurais profundas para detecção de câncer de pele, mas falta avaliação sistemática e rigorosa de sua utilidade. A maioria dos estudos apenas aplica métodos existentes de XAI para interpretar decisões, com poucos avaliando o desempenho e a confiança de humanos usando sistemas CAD com XAI.

Estudo citado: Hauser K, Kurz A, Haggenmüller S, Maron RC, von Kalle C, Utikal JS et al.. Explainable artificial intelligence in skin cancer recognition: A systematic review. European journal of cancer (Oxford, England : 1990). 2022. DOI: https://doi.org/10.1016/j.ejca.2022.02.025. PubMed: https://pubmed.ncbi.nlm.nih.gov/35390650/

## Resposta

A revisão sistemática investigou como a inteligência artificial explicável (XAI) é utilizada no reconhecimento de câncer de pele, focando em três questões: como a XAI é usada durante o desenvolvimento de novas redes neurais profundas (DNNs), quais tipos de visualizações são comumente empregados e se há avaliações sistemáticas da XAI com dermatologistas ou dermatopatologistas.

Foram incluídos 37 estudos publicados entre janeiro de 2017 e outubro de 2021. A maioria (19/37) simplesmente aplicou métodos existentes de XAI aos seus classificadores para interpretar a tomada de decisão. Alguns estudos (4/37) propuseram novos métodos de XAI ou aprimoraram técnicas existentes. Quatorze estudos abordaram questões específicas, como detecção de viés e impacto da XAI nas interações homem-máquina.

Apenas três estudos avaliaram o desempenho e a confiança de humanos usando sistemas de diagnóstico auxiliado por computador (CAD) com XAI. Isso indica que, embora a XAI seja comumente aplicada durante o desenvolvimento de DNNs para detecção de câncer de pele, falta uma avaliação sistemática e rigorosa de sua utilidade nesse cenário.

Os achados sugerem que a área ainda está em estágio inicial quanto à validação clínica da XAI. A maioria dos trabalhos é técnica e não envolve profissionais de saúde na avaliação. A revisão não informa detalhes sobre a amostra de imagens ou características dos estudos incluídos, nem sobre limitações específicas de cada um.

Para o médico, isso significa que as ferramentas de XAI disponíveis ou em desenvolvimento carecem de evidências robustas sobre seu impacto na prática clínica. A aplicação clínica rotineira ainda não está estabelecida, e a interpretação das saídas desses sistemas deve ser feita com cautela.

## O que o estudo mostrou

Revisão sistemática que buscou estudos publicados entre janeiro de 2017 e outubro de 2021 em cinco bases de dados, incluindo apenas estudos sobre câncer de pele que aplicassem XAI a imagens dermatológicas. Foram incluídos 37 estudos. A maioria (19/37) aplicou métodos existentes de XAI para interpretar classificadores; 4/37 propuseram novos métodos ou melhorias; 14/37 abordaram questões específicas como viés e interação homem-máquina. Apenas três avaliaram desempenho e confiança de humanos usando CAD com XAI. O resumo não informa o número total de pacientes ou imagens analisadas.

## Limitações

O resumo não detalha as limitações dos estudos incluídos, nem informa a qualidade metodológica dos mesmos. Não são fornecidos dados sobre amostra de imagens, características dos participantes ou tipos de câncer de pele abordados. A revisão em si pode ter limitações não descritas, como viés de publicação ou restrição a determinadas bases. A ausência de avaliação sistemática com dermatologistas limita conclusões sobre utilidade clínica.

## Aplicação no consultório

A revisão indica que a XAI é uma área em desenvolvimento, sem evidências robustas de melhoria no diagnóstico ou na confiança do médico. Na prática clínica, sistemas de apoio à decisão com XAI ainda não devem ser adotados como padrão sem validação local. Para gestores de consultório, investir em tecnologias desse tipo requer cautela e avaliação crítica da literatura. A ausência de estudos com dermatologistas sugere que a implementação deve ser acompanhada de treinamento e monitoramento de desfechos.

## Perguntas para aprofundar

- Quais métodos de XAI são mais utilizados em dermatologia e como eles auxiliam na interpretação de imagens?
- Existem estudos que avaliem o impacto da XAI na confiança e no desempenho de dermatologistas no diagnóstico de câncer de pele?
- Como a XAI pode ajudar a detectar vieses em algoritmos de reconhecimento de câncer de pele?

Tema: IA em patologia digital. Página: https://alphadoctor.com.br/ciencia/ia-patologia-digital/como-a-inteligencia-artificial-explicavel-tem-sido-aplicada-no-reconhecimento/

Conteúdo educacional para profissionais de saúde, baseado no resumo do artigo citado. Não substitui a leitura do estudo original nem avaliação clínica.