Ética, viés e explicabilidade da IA em saúde

Como o aprendizado profundo aplicado a dados de mHealth tem sido usado no diagnóstico, prognóstico, manejo e tratamento de doenças cardiovasculares, diabetes e câncer?

Resposta

O artigo revisa sistematicamente estudos que empregaram aprendizado profundo (DL) com dados capturados por dispositivos móveis (smartphones, smartwatches e outros wearables) para doenças crônicas maiores: doenças cardiovasculares (CVD), diabetes e câncer. A busca foi feita nas bases Scopus e PubMed, incluindo 20 estudos. A distribuição foi: 35% (7/20) para CVD, 45% (9/20) para diabetes e 20% (4/20) para câncer. O objetivo foi entender o progresso nessa área e os desfechos alcançados.

Os desfechos mais comuns variaram conforme a doença: nos estudos de CVD, o diagnóstico da condição do paciente; nos de diabetes, a predição dos níveis de glicose no sangue; e nos de câncer, a detecção precoce. As arquiteturas de DL mais utilizadas foram redes neurais convolucionais (CNN) nos estudos de CVD e câncer, e redes neurais recorrentes (RNN) nos de diabetes. O desempenho geral do DL foi considerado satisfatório, com acurácia superior a 84% na maioria dos estudos.

Quando comparado a abordagens clássicas de aprendizado de máquina, o DL apresentou melhor desempenho em quase todos os estudos que relataram essa comparação. No entanto, a maioria dos estudos não forneceu detalhes sobre a explicabilidade dos resultados do DL, o que limita a compreensão de como os modelos chegam às suas conclusões. A revisão conclui que o DL pode facilitar o diagnóstico, manejo e tratamento dessas doenças crônicas, mas são necessários estudos prospectivos para demonstrar o valor do DL em ferramentas e intervenções de mHealth na vida real.

Para o médico brasileiro, esses achados indicam que a aplicação de DL em mHealth é promissora, especialmente para monitoramento e diagnóstico precoce, mas ainda carece de validação prospectiva. A ausência de detalhes sobre explicabilidade é um ponto de atenção para a confiança clínica e a incorporação ética dessas ferramentas. O resumo não informa o número total de participantes, a idade exata ou o período dos estudos incluídos, nem as limitações metodológicas dos estudos primários.

O que o estudo mostrou

Revisão sistemática de 20 estudos que usaram aprendizado profundo com dados de dispositivos móveis para doenças cardiovasculares, diabetes e câncer. A maioria dos estudos focou em diabetes (45%), seguida de doenças cardiovasculares (35%) e câncer (20%). Os desfechos principais foram diagnóstico da condição (CVD), predição de glicose (diabetes) e detecção precoce (câncer). Redes convolucionais predominaram em CVD e câncer, e recorrentes em diabetes. O desempenho foi satisfatório, com acurácia >84% na maioria, e superior ao aprendizado de máquina clássico nas comparações. A explicabilidade foi raramente detalhada.

Limitações

O resumo não informa o número total de participantes, a idade dos envolvidos, o período dos estudos ou as limitações metodológicas dos estudos primários. A maioria dos estudos não forneceu detalhes sobre a explicabilidade dos resultados do aprendizado profundo, o que restringe a interpretação clínica. Além disso, a revisão não descreve estudos prospectivos de validação em cenários reais, apontando essa necessidade como conclusão.

Aplicação no consultório

Os achados sugerem que ferramentas de mHealth baseadas em aprendizado profundo podem, no futuro, auxiliar no diagnóstico e monitoramento de doenças crônicas, como predição de glicose em diabetes e detecção precoce de câncer. No entanto, a falta de explicabilidade e a ausência de estudos prospectivos limitam a incorporação imediata na prática clínica. Para a gestão do consultório, é prudente aguardar validação em cenários reais antes de adotar tais tecnologias, mantendo o foco em evidências robustas e na segurança do paciente.

Estudo citado

Deep Learning in mHealth for Cardiovascular Disease, Diabetes, and Cancer: Systematic Review. JMIR mHealth and uHealth, 2022.
Autores: Triantafyllidis A, Kondylakis H, Katehakis D, Kouroubali A, Koumakis L, Marias K, Alexiadis A, Votis K, Tzovaras D.
DOI: 10.2196/32344 · PubMed: PMID 35377325

Perguntas para aprofundar

• Quais são as principais limitações da explicabilidade em modelos de aprendizado profundo aplicados à saúde?
• Como o aprendizado profundo com dados de wearables pode auxiliar no monitoramento de pacientes com diabetes?
• Quais estudos prospectivos são necessários para validar ferramentas de mHealth baseadas em aprendizado profundo?

Mais sobre Ética, viés e explicabilidade da IA em saúde

• Como o aprendizado profundo pode resolver discrepâncias genômicas no câncer e qual o impacto clínico?
• Modelos de inteligência artificial para desfechos de tempo até o evento são superiores aos modelos tradicionais na predição de risco cardiovascular?
• Modelos de machine learning superam os modelos estatísticos convencionais na predição de eventos cardiovasculares em pacientes em diálise?
• A IA explicável pode tornar os sistemas de detecção de câncer mais transparentes e confiáveis na prática clínica?
• Como os dados de rastreamento ocular podem tornar os modelos de aprendizado profundo mais interpretáveis na radiologia?

Todas as perguntas sobre Ética, viés e explicabilidade da IA em saúde · Todos os temas · Versão em markdown