# Modelos de linguagem de grande porte (LLMs) já podem ser usados com segurança na prática clínica em saúde mental?

> A revisão sistemática indica que os LLMs mostram boa efetividade na detecção de problemas de saúde mental e em serviços de eHealth acessíveis e menos estigmatizantes, mas os riscos atuais do uso clínico podem superar os benefícios, incluindo inconsistências no texto gerado, alucinações e ausência de marco ético abrangente. Os LLMs não devem substituir os serviços profissionais de saúde mental.

Estudo citado: Guo Z, Lai A, Thygesen JH, Farrington J, Keen T, Li K. Large Language Models for Mental Health Applications: Systematic Review. JMIR mental health. 2024. DOI: https://doi.org/10.2196/57400. PubMed: https://pubmed.ncbi.nlm.nih.gov/39423368/

## Resposta

Esta revisão sistemática avaliou a literatura sobre o uso de modelos de linguagem de grande porte (LLMs) em saúde mental, com foco em aplicabilidade e eficácia na triagem precoce, em intervenções digitais e em contextos clínicos. Os autores analisaram modelos, metodologias, fontes de dados e desfechos dos estudos incluídos, buscando sintetizar o potencial, os desafios e as perspectivas de uso clínico dessas ferramentas.

Os resultados mostram que os LLMs apresentam boa efetividade na detecção de problemas de saúde mental e na oferta de serviços de eHealth acessíveis e menos estigmatizantes. Esse é um ponto relevante para o médico que acompanha a incorporação de tecnologia digital na assistência, especialmente em contextos de acesso limitado a serviços especializados.

Por outro lado, as avaliações indicam que os riscos associados ao uso clínico atual podem superar os benefícios. A revisão cita inconsistências no texto gerado, a produção de alucinações e a ausência de um marco ético abrangente e benchmarked. Esses elementos precisam ser considerados antes de qualquer adoção na rotina clínica.

A conclusão reforça que os LLMs não devem ser considerados substitutos dos serviços profissionais de saúde mental. Ainda assim, o rápido desenvolvimento desses modelos destaca seu potencial como auxiliares clínicos valiosos, o que enfatiza a necessidade de pesquisa e desenvolvimento contínuos na área.

Para o médico brasileiro, o artigo serve como referência para uma postura crítica e informada: reconhecer o potencial da ferramenta sem transferir a ela a responsabilidade clínica, e acompanhar a evolução das evidências antes de incorporá-la ao cuidado.

## O que o estudo mostrou

Trata-se de uma revisão sistemática conduzida conforme as diretrizes PRISMA, com busca em 5 bases de acesso aberto: MEDLINE (via PubMed), IEEE Xplore, Scopus, JMIR e ACM Digital Library. Foram incluídos artigos publicados entre 1º de janeiro de 2017 e 30 de abril de 2024, excluindo-se publicações em idiomas diferentes do inglês. No total, 40 artigos foram avaliados: 15 (38%) sobre detecção de condições de saúde mental e ideação suicida por análise de texto, 7 (18%) sobre LLMs como agentes conversacionais em saúde mental e 18 (45%) sobre outras aplicações e avaliações. Os LLMs mostraram boa efetividade na detecção de problemas de saúde mental e na oferta de serviços de eHealth acessíveis e menos estigmatizantes, mas os riscos clínicos atuais podem superar os benefícios, incluindo inconsistências no texto gerado, alucinações e ausência de marco ético abrangente e benchmarked.

## Limitações

O resumo não informa detalhes sobre a qualidade metodológica dos estudos incluídos, o tamanho das amostras ou a heterogeneidade entre eles. Também não descreve os modelos específicos avaliados nem os desfechos clínicos medidos. A restrição a artigos em inglês e o recorte temporal até 30 de abril de 2024 limitam a abrangência. O resumo não permite concluir sobre eficácia clínica comparativa nem sobre segurança em populações específicas.

## Aplicação no consultório

Na prática e na gestão do consultório, o médico deve tratar os LLMs como ferramentas auxiliares e não como substitutos do julgamento clínico ou dos serviços profissionais de saúde mental. É prudente não delegar a essas ferramentas decisões de triagem ou conduta sem validação local e supervisão. A ausência de marco ético benchmarked, as questões de privacidade de dados e o risco de superdependência por médicos e pacientes devem orientar políticas internas de uso, incluindo critérios de confidencialidade e revisão humana das informações geradas.

## Perguntas para aprofundar

- Quais riscos os LLMs apresentam quando usados como agentes conversacionais em saúde mental?
- Como a ausência de um marco ético benchmarked afeta a incorporação de LLMs na clínica?
- O que a revisão conclui sobre o uso de LLMs para detecção de ideação suicida por análise de texto?

Tema: LLMs e chatbots clínicos. Página: https://alphadoctor.com.br/ciencia/ia-llm-chatbots/modelos-de-linguagem-de-grande-porte-llms-ja-podem-ser-usados-com-seguranca-na/

Conteúdo educacional para profissionais de saúde, baseado no resumo do artigo citado. Não substitui a leitura do estudo original nem avaliação clínica.