Escriba ambiental e documentação clínica com IA

Quais são as considerações éticas sobre viés e equidade no processamento de linguagem natural clínico?

Resposta

O processamento de linguagem natural clínico pode ser usado tanto para estudar viés em aplicações que dependem de dados de texto clínico quanto para explorar vieses no próprio ambiente de saúde. A revisão parte da distinção entre vieses do texto clínico, como vieses sistêmicos ou pessoais na documentação clínica sobre os pacientes, e vieses nas aplicações de processamento de linguagem natural.

Os autores aplicaram um framework que combina o processo de desenvolvimento de aprendizado de máquina, com as fases de design, dados, algoritmo e crítica, e conceitos bioéticos de beneficência, não maleficência, autonomia, justiça e explicabilidade. Essa combinação permite examinar em que ponto do desenvolvimento surgem as preocupações éticas e como elas se relacionam com princípios bioéticos.

A revisão identifica três áreas de pesquisa ativa que exigem considerações éticas próprias sobre o potencial do processamento de linguagem natural clínico de abordar e/ou perpetuar viés: a seleção de métricas que investiguem viés nos modelos; as oportunidades e os riscos de identificar atributos sensíveis dos pacientes; e as melhores práticas para conciliar autonomia individual, aproveitamento de dados de pacientes e inferência e manipulação de informações sensíveis de subgrupos.

Os autores também discutem as limitações dos frameworks éticos atuais para tratar plenamente as preocupações de justiça. Como o processamento de linguagem natural clínico é um campo em rápida evolução, avaliar as abordagens existentes à luz de considerações éticas pode ajudar a disciplina a usar essa tecnologia tanto para explorar vieses na saúde quanto para desenvolver aplicações equitativas.

O que o estudo mostrou

Trata-se de uma revisão de escopo. Os autores consultaram PubMed e Google Scholar em busca de artigos publicados entre 2015 e 2021 sobre processamento de linguagem natural clínico, viés e equidade. De 1162 artigos triados, 22 atenderam aos critérios para revisão do texto completo. Os artigos foram categorizados conforme as fases de design (N = 2), dados (N = 12), algoritmo (N = 14) e crítica (N = 17) do processo de desenvolvimento de aprendizado de máquina. A revisão identificou três áreas de pesquisa ativa que exigem considerações éticas específicas.

Limitações

O resumo não informa detalhes sobre a qualidade metodológica dos artigos incluídos nem sobre a extração de dados. Também não descreve limitações específicas da busca ou da síntese. Os próprios autores apontam que os frameworks éticos atuais têm limitações para tratar plenamente as preocupações de justiça, o que restringe o que a revisão permite concluir sobre a aplicação prática desses conceitos.

Aplicação no consultório

Para o médico que utiliza ou pretende adotar ferramentas de processamento de linguagem natural na documentação clínica ou na gestão do consultório, a revisão reforça a necessidade de examinar como os textos clínicos registrados podem carregar vieses sistêmicos ou pessoais e como esses vieses podem ser reproduzidos por aplicações. Ao avaliar fornecedores e ferramentas, vale considerar quais métricas de viés são empregadas, como atributos sensíveis dos pacientes são tratados e de que forma a autonomia e a privacidade dos dados são conciliadas com o uso dessas informações.

Estudo citado

A scoping review of ethics considerations in clinical natural language processing. JAMIA open, 2022.
Autores: Bear Don't Walk OJ, Reyes Nieva H, Lee SS, Elhadad N.
DOI: 10.1093/jamiaopen/ooac039 · PubMed: PMID 35663112

Perguntas para aprofundar

• Como avaliar viés em ferramentas de processamento de linguagem natural usadas na documentação clínica?
• Quais riscos éticos existem ao identificar atributos sensíveis de pacientes a partir de textos clínicos?
• Como conciliar autonomia do paciente e uso de dados em aplicações de processamento de linguagem natural clínico?

Mais sobre Escriba ambiental e documentação clínica com IA

• A inteligência artificial melhora a eficiência e a precisão da documentação clínica em diferentes cenários assistenciais?
• Como a inteligência artificial está transformando os sistemas de apoio à decisão clínica e quais os desafios para sua implementação na prática médica?
• Como a inteligência artificial pode transformar o atendimento de emergência?
• Como o processamento de linguagem natural tem sido aplicado à extração de entidades e relações em textos clínicos livres, e o que isso já chegou à prática clínica?
• A inteligência artificial já pode automatizar a codificação ICD de forma confiável na prática clínica?

Todas as perguntas sobre Escriba ambiental e documentação clínica com IA · Todos os temas · Versão em markdown