IA empática, cuidado inseguro: até onde confiar em chatbots de saúde mental?

Muito antes de a inteligência artificial se tornar amplamente conhecida, Baymax, o enfermeiro-robô do filme Big Hero 6, da Disney, lançado em 2014, já representava o amigo que muitas pessoas gostariam de ter: sempre disponível, genuinamente empático e inteiramente focado no bem-estar de quem está ao seu redor.

Baymax funciona perfeitamente dentro de seus parâmetros. O problema é que esses parâmetros são insuficientes diante da complexidade dos problemas humanos reais.

O que Baymax ensina sobre os riscos da IA na saúde mental

Em uma das cenas do filme, Baymax detecta que algo está errado com Hiro: frequência cardíaca acelerada, comportamento alterado e sono prejudicado. No entanto, ele não consegue compreender que aquilo é luto, raiva e perda processada por meio de um comportamento autodestrutivo.

Baymax oferece abraços quando Hiro precisa de alguém que diga: “Você precisa parar e processar o que aconteceu”.

O robô não estava funcionando mal. Estava funcionando perfeitamente dentro de parâmetros insuficientes.

É assim que muitos chatbots de saúde mental funcionam hoje.

Um estudo de 2026 publicado no NEJM AI avaliou chatbots utilizados como suporte em casos de abuso de álcool. Os resultados mostraram nota 4,6 de 5 para empatia e 2,7 de 5 para qualidade da informação.

Em uma das situações avaliadas, um paciente descreveu sintomas de abstinência grave, como insônia, palpitações e pesadelos. Um chatbot respondeu: “Sim, isso é completamente normal”.

Quando graves, esses sintomas podem indicar uma urgência médica e, caso o quadro se agrave, evoluir para convulsão e morte. Ainda assim, o chatbot, sendo empático e funcionando dentro de seus parâmetros, normalizou o que deveria ter sido sinalizado como crítico.

Ele foi empático, mas perigoso.

O paradoxo da empatia artificial

A empatia constrói confiança. Nas relações humanas, essa confiança pode aumentar a probabilidade de o paciente seguir uma orientação, mesmo quando ela é prejudicial.

Estudos mostram que pacientes podem não identificar recomendações perigosas quando elas são apresentadas com cordialidade e aparência de competência. Nas redes sociais, esse mecanismo também pode ser observado na atuação de charlatões que transmitem segurança e simpatia.

Com a inteligência artificial, o mesmo pode acontecer.

O paciente lê uma resposta bem estruturada, com linguagem clara e tom reconfortante, e pensa: “Está tudo bem. O bot sabe o que está fazendo”.

Entretanto, o chatbot pode não ter feito as perguntas que um médico faria. O uso de chatbots médicos e assistentes virtuais exige a definição de limites claros no cuidado ao paciente.

Diante de uma resposta aparentemente aceitável, o paciente pode deixar de procurar ajuda profissional.

O que um chatbot não consegue avaliar

O chatbot não consegue:

• detectar silêncios significativos;
• realizar um julgamento contextual nuançado;
• reconhecer quando uma resposta plausível mascara um sinal crítico;
• compreender que, em algumas situações, a gentileza é o oposto do que o paciente necessita.

Essas não são falhas morais. São limitações estruturais enfrentadas no uso da inteligência artificial em saúde mental.

A discussão também envolve o uso da inteligência artificial como apoio psicológico, especialmente quando o usuário passa a atribuir ao chatbot funções que deveriam depender de avaliação clínica.

Onde está a linha segura para o uso da IA?

A inteligência artificial pode ser útil, mas apenas sob determinadas condições.

1. Integração a um sistema clínico real

A IA não deve funcionar como substituta do cuidado médico, mas como parte de um sistema acompanhado por profissionais, integrado, por exemplo, ao prontuário clínico.

2. Transparência sobre as limitações

O paciente deve saber que está interagindo com uma inteligência artificial e que muitos problemas não podem ser adequadamente identificados ou previstos por esse tipo de sistema.

3. Proteções para situações de risco

Diante de risco iminente, a ferramenta não deve se limitar a oferecer técnicas de enfrentamento. Deve orientar de forma clara que o paciente procure imediatamente um profissional de saúde.

4. Ausência de ilusão diagnóstica

Um chatbot pode oferecer psicoeducação. Não pode afirmar: “Você tem depressão”.

O diagnóstico exige contexto, história longitudinal e capacidade de reconhecer erros e corrigi-los. Os desafios éticos da inteligência artificial na psiquiatria reforçam a necessidade de supervisão e julgamento clínico.

A verdade incômoda sobre os chatbots de saúde mental

No final do filme, Hiro não abandona Baymax. Ele compreende, porém, que existem coisas que o robô não consegue fazer e que depender inteiramente dele seria perigoso.

Hiro se conecta a pessoas reais enquanto atualiza seu robô. Ele cria uma comunidade capaz de oferecer compreensão, relacionamento e presença humana.

Mas o que acontece quando uma pessoa não tem amigos? E quando o acesso a um médico é impossível?

Nessas situações, um chatbot pode ser útil. Sozinho, porém, não é seguro. Para um adolescente isolado, por exemplo, ele pode ser tão prejudicial quanto a ausência de cuidado.

Essa tensão entre utilidade e risco também aparece no debate sobre a saúde mental na era da IA e o papel do médico.

Qual é o problema da empatia sem julgamento clínico?

Empatia sem julgamento contextual não é cuidado. É conforto ilusório — e esse conforto pode impedir que alguém procure ajuda real.

O cuidado depende da ajuda de alguém capaz de reconhecer expressões, respeitar o silêncio e fazer perguntas que ninguém espera, porque compreende a complexidade daquela situação.

Na saúde mental, conhecer uma pessoa — entender sua história, seu contexto e o que está sendo silenciado — é frequentemente uma das intervenções mais poderosas disponíveis.

#Conteúdo otimizado com o auxílio de IA e revisado pela equipe do Portal Afya.