Modelos de linguagem de grande porte (LLMs) já podem ser usados com segurança na prática clínica em saúde mental?
Resposta curta: A revisão sistemática indica que os LLMs mostram boa efetividade na detecção de problemas de saúde mental e em serviços de eHealth acessíveis e menos estigmatizantes, mas os riscos atuais do uso clínico podem superar os benefícios, incluindo inconsistências no texto gerado, alucinações e ausência de marco ético abrangente. Os LLMs não devem substituir os serviços profissionais de saúde mental.
Resposta
Esta revisão sistemática avaliou a literatura sobre o uso de modelos de linguagem de grande porte (LLMs) em saúde mental, com foco em aplicabilidade e eficácia na triagem precoce, em intervenções digitais e em contextos clínicos. Os autores analisaram modelos, metodologias, fontes de dados e desfechos dos estudos incluídos, buscando sintetizar o potencial, os desafios e as perspectivas de uso clínico dessas ferramentas.
Os resultados mostram que os LLMs apresentam boa efetividade na detecção de problemas de saúde mental e na oferta de serviços de eHealth acessíveis e menos estigmatizantes. Esse é um ponto relevante para o médico que acompanha a incorporação de tecnologia digital na assistência, especialmente em contextos de acesso limitado a serviços especializados.
Por outro lado, as avaliações indicam que os riscos associados ao uso clínico atual podem superar os benefícios. A revisão cita inconsistências no texto gerado, a produção de alucinações e a ausência de um marco ético abrangente e benchmarked. Esses elementos precisam ser considerados antes de qualquer adoção na rotina clínica.
A conclusão reforça que os LLMs não devem ser considerados substitutos dos serviços profissionais de saúde mental. Ainda assim, o rápido desenvolvimento desses modelos destaca seu potencial como auxiliares clínicos valiosos, o que enfatiza a necessidade de pesquisa e desenvolvimento contínuos na área.
Para o médico brasileiro, o artigo serve como referência para uma postura crítica e informada: reconhecer o potencial da ferramenta sem transferir a ela a responsabilidade clínica, e acompanhar a evolução das evidências antes de incorporá-la ao cuidado.
O que o estudo mostrou
Trata-se de uma revisão sistemática conduzida conforme as diretrizes PRISMA, com busca em 5 bases de acesso aberto: MEDLINE (via PubMed), IEEE Xplore, Scopus, JMIR e ACM Digital Library. Foram incluídos artigos publicados entre 1º de janeiro de 2017 e 30 de abril de 2024, excluindo-se publicações em idiomas diferentes do inglês. No total, 40 artigos foram avaliados: 15 (38%) sobre detecção de condições de saúde mental e ideação suicida por análise de texto, 7 (18%) sobre LLMs como agentes conversacionais em saúde mental e 18 (45%) sobre outras aplicações e avaliações. Os LLMs mostraram boa efetividade na detecção de problemas de saúde mental e na oferta de serviços de eHealth acessíveis e menos estigmatizantes, mas os riscos clínicos atuais podem superar os benefícios, incluindo inconsistências no texto gerado, alucinações e ausência de marco ético abrangente e benchmarked.
Limitações
O resumo não informa detalhes sobre a qualidade metodológica dos estudos incluídos, o tamanho das amostras ou a heterogeneidade entre eles. Também não descreve os modelos específicos avaliados nem os desfechos clínicos medidos. A restrição a artigos em inglês e o recorte temporal até 30 de abril de 2024 limitam a abrangência. O resumo não permite concluir sobre eficácia clínica comparativa nem sobre segurança em populações específicas.
Aplicação no consultório
Na prática e na gestão do consultório, o médico deve tratar os LLMs como ferramentas auxiliares e não como substitutos do julgamento clínico ou dos serviços profissionais de saúde mental. É prudente não delegar a essas ferramentas decisões de triagem ou conduta sem validação local e supervisão. A ausência de marco ético benchmarked, as questões de privacidade de dados e o risco de superdependência por médicos e pacientes devem orientar políticas internas de uso, incluindo critérios de confidencialidade e revisão humana das informações geradas.
Estudo citado
Large Language Models for Mental Health Applications: Systematic Review. JMIR mental health, 2024.
Autores: Guo Z, Lai A, Thygesen JH, Farrington J, Keen T, Li K.
DOI: 10.2196/57400 · PubMed: PMID 39423368
Perguntas para aprofundar
- Quais riscos os LLMs apresentam quando usados como agentes conversacionais em saúde mental?
- Como a ausência de um marco ético benchmarked afeta a incorporação de LLMs na clínica?
- O que a revisão conclui sobre o uso de LLMs para detecção de ideação suicida por análise de texto?
Mais sobre LLMs e chatbots clínicos
- Como a inteligência artificial pode ser aplicada na saúde mental e quais os desafios éticos?
- Chatbots de saúde mental baseados em IA generativa são eficazes para reduzir problemas de saúde mental em comparação com grupos sem chatbot?
- Como a inteligência artificial generativa pode ser aplicada na saúde mental e quais são as implicações éticas?
- Como a inteligência artificial pode ser aplicada em questionários médicos e quais os desafios para a prática clínica?
- Modelos de IA generativa são confiáveis para aplicações clínicas em saúde mental?
Todas as perguntas sobre LLMs e chatbots clínicos · Todos os temas · Versão em markdown