Quais são as principais considerações éticas para o uso de grandes modelos de linguagem na prática clínica?
Resposta curta: Uma revisão sistemática identificou que viés e justiça são as preocupações éticas mais discutidas, seguidas por segurança, confiabilidade, transparência, responsabilidade e privacidade. A família GPT predomina entre os modelos analisados. Os autores propõem uma estrutura provisória de integração ética para orientar clínicos, desenvolvedores e formuladores de políticas.
Resposta
A revisão sistemática analisou 27 estudos publicados entre 2017 e 2025 em quatro bases de dados de acesso aberto, com critérios de elegibilidade rigorosos, para examinar os aspectos éticos da implantação de grandes modelos de linguagem (LLMs) em ambientes clínicos. Os autores exploraram quatro aspectos principais: as questões éticas emergentes, as arquiteturas de modelo prevalentes nas análises éticas, os domínios de aplicação em saúde mais frequentemente escrutinados e os padrões de publicação e bibliográficos da literatura.
Os resultados revelam que viés e justiça (n = 7, 25,9%) são as preocupações mais frequentemente discutidas, seguidas por segurança, confiabilidade, transparência, responsabilidade e privacidade. Entre os modelos examinados, a família GPT predomina (n = 14, 51,8%). Embora a proteção da privacidade e a mitigação de viés tenham recebido atenção notável, nenhuma revisão existente abordou sistematicamente o conjunto abrangente de questões éticas em torno dos LLMs.
A maioria dos estudos anteriores concentra-se estreitamente em subdomínios clínicos específicos e carece de metodologia abrangente. Como um mapeamento sistemático da literatura de acesso aberto, esta síntese identifica padrões éticos dominantes, mas não é exaustiva de todo o trabalho ético sobre LLMs na área da saúde. Os autores também sintetizam os desafios identificados, delineiam direções futuras de pesquisa e incluem uma estrutura provisória de integração ética para orientar clínicos, desenvolvedores e formuladores de políticas na integração responsável de LLMs em fluxos de trabalho clínicos.
Para o médico brasileiro, esses achados reforçam a necessidade de considerar os aspectos éticos ao adotar ferramentas baseadas em LLMs no consultório, especialmente no que se refere a viés algorítmico e justiça, segurança e privacidade dos dados dos pacientes. A estrutura proposta pode auxiliar na avaliação e implementação responsável dessas tecnologias, alinhando a prática clínica às exigências éticas e regulatórias.
O que o estudo mostrou
Revisão sistemática de 27 estudos publicados entre 2017 e 2025 em quatro bases de dados de acesso aberto, com critérios de elegibilidade rigorosos e métodos de síntese robustos. Os achados mostram que viés e justiça (n = 7, 25,9%) são as preocupações éticas mais discutidas, seguidas por segurança, confiabilidade, transparência, responsabilidade e privacidade. A família GPT predomina (n = 14, 51,8%) entre os modelos examinados. Os autores propõem uma estrutura provisória de integração ética para orientar clínicos, desenvolvedores e formuladores de políticas.
Limitações
O resumo não informa detalhes sobre a qualidade metodológica dos estudos incluídos, nem sobre possíveis vieses de publicação. Os autores afirmam que, como mapeamento sistemático da literatura de acesso aberto, a síntese não é exaustiva de todo o trabalho ético sobre LLMs na área da saúde. Além disso, a maioria dos estudos anteriores foca em subdomínios clínicos específicos e carece de metodologia abrangente, o que pode limitar a generalização dos achados.
Aplicação no consultório
Os achados orientam o médico a considerar os aspectos éticos ao incorporar LLMs na prática clínica e na gestão do consultório, especialmente viés e justiça, segurança, transparência, responsabilidade e privacidade. A estrutura provisória proposta pode auxiliar na avaliação e implementação responsável dessas ferramentas, promovendo cuidado alinhado às exigências éticas e à proteção dos dados dos pacientes.
Estudo citado
A systematic review of ethical considerations of large language models in healthcare and medicine. Frontiers in digital health, 2025.
Autores: Fareed M, Fatima M, Uddin J, Ahmed A, Sattar MA.
DOI: 10.3389/fdgth.2025.1653631 · PubMed: PMID 41019285
Perguntas para aprofundar
- Como mitigar viés e injustiça no uso de LLMs em decisões clínicas?
- Quais são os principais riscos de privacidade ao adotar LLMs no consultório?
- Que estrutura ética pode guiar a integração de LLMs na prática médica?
Mais sobre LLMs e chatbots clínicos
- Como os modelos de linguagem de grande escala (LLMs) estão sendo avaliados em medicina clínica e quais são as principais limitações dessas avaliações?
- Como os grandes modelos de linguagem conversacionais, como o ChatGPT, estão sendo aplicados na saúde e quais são as principais preocupações apontadas pela literatura?
- Como os modelos de linguagem de grande escala (LLMs) estão sendo aplicados na educação médica e quais são suas implicações?
- Quais estratégias baseadas em evidências reduzem alucinações em modelos de linguagem na saúde?
- Modelos de linguagem de grande porte (LLMs) podem automatizar etapas de revisões sistemáticas com desempenho confiável?
Todas as perguntas sobre LLMs e chatbots clínicos · Todos os temas · Versão em markdown