Quando a IA responde errado, o médico ainda sabe reconhecer?

Há pouco tempo, por curiosidade, pedi a uma inteligência artificial que me ajudasse a analisar um caso de anemia e doença óssea em um paciente em hemodiálise. Queria testar a ferramenta em um assunto que conhecia bem — afinal, sou nefrologista — e observar até onde ela iria.

A resposta veio rápida, organizada e com a estrutura adequada. Mas continha erros absurdos, que qualquer nefrologista experiente identificaria imediatamente.

A experiência, no entanto, acabou sendo bastante educativa. O raciocínio clínico que eu havia construído ao longo de muitos anos funcionou como filtro. Sem ele, eu poderia ter aceitado aquela resposta como excelente. Com ele, soube reconhecer os erros.

Esse é um dos riscos reais da relação entre raciocínio clínico e IA na educação médica.

Como a IA pode comprometer o desenvolvimento do raciocínio clínico

Uma revisão sistemática publicada em 2026 analisou estudos sobre o impacto da IA no aprendizado de estudantes de medicina e identificou dois fenômenos preocupantes: o deskilling, quando a automação enfraquece habilidades que ainda estão sendo desenvolvidas, e a inibição do upskilling, quando a ferramenta substitui o esforço de aprender, em vez de ampliá-lo.

Em uma pesquisa com estudantes de medicina, 83% relataram preocupação com a dependência excessiva da IA, enquanto 77% temiam perder habilidades de raciocínio crítico.

Um editorial publicado pelo BMJ Evidence-Based Medicine, em 2025, apresentou o problema de forma direta: quando o estudante transfere para a IA o trabalho de buscar, avaliar e sintetizar informações, ele não está apenas economizando tempo. Está abrindo mão do processo que constrói o raciocínio clínico.

A IA realiza o trabalho e o estudante recebe o resultado. Mas é durante o trabalho — e não apenas no resultado — que o aprendizado acontece.

Leia mais: Inteligência artificial na formação médica: como preparar os futuros médicos

O risco de aceitar respostas automatizadas sem questionamento

Há ainda outro viés relevante: a tendência de aceitar respostas automatizadas sem questioná-las, mesmo quando estão erradas.

Um estudo publicado em 2025 avaliou médicos com treinamento em IA durante exercícios diagnósticos. Quando a ferramenta sugeria uma resposta incorreta, uma parcela significativa dos participantes seguia a recomendação sem contestá-la.

Eram médicos treinados e experientes.

Outro estudo, que comparou o ChatGPT com o raciocínio baseado em diretrizes, mostrou que a IA produziu respostas mais rápidas, porém menos precisas e menos completas.

Isso não representa um argumento contra a IA. Mostra, porém, que precisamos utilizá-la como ferramenta, e não como substituta do julgamento clínico.

Um cirurgião não culpa o bisturi por um corte errado. Da mesma forma, um médico não deveria culpar a IA por uma resposta ruim. Mas precisa ter conhecimento suficiente para avaliá-la.

Esse discernimento só existe quando o raciocínio clínico foi construído anteriormente, e não terceirizado desde o início.

Leia mais: Como supervisionar o uso de IA por residentes e estudantes de medicina

A IA já faz parte da educação médica

A questão não é mais se a IA deve estar presente na educação médica. Ela já está — com ou sem permissão institucional — nos celulares dos residentes e nas madrugadas que antecedem apresentações e discussões de casos.

A pergunta central é como integrá-la sem permitir que substitua aquilo que deveria apenas apoiar.

Algumas diretrizes começam a emergir da literatura e fazem sentido na prática.

1. Raciocinar antes de consultar a IA

O estudante precisa tentar construir o raciocínio antes de recorrer à ferramenta. É no esforço de pensar que o aprendizado se consolida.

Usar a IA como primeiro recurso tem um custo que pode aparecer apenas mais tarde, quando o profissional estiver diante de um caso complexo demais para ser resolvido por atalhos.

2. Avaliar o processo, e não apenas o resultado

Se um estudante apresenta uma análise clínica correta, mas não consegue explicar como chegou àquela conclusão, há um problema — independentemente de a resposta estar certa.

Instituições que avaliam apenas o produto final podem, mesmo sem perceber, incentivar a delegação do raciocínio.

A avaliação precisa considerar a construção das hipóteses, a interpretação dos achados, a revisão das possibilidades diagnósticas e a justificativa da conduta.

3. Desenvolver letramento em IA

O letramento em IA vai além de saber utilizar a ferramenta. Significa saber reconhecer quando ela erra.

Também exige compreender os tipos de falha que modelos de linguagem podem cometer com maior frequência, como lacunas diante de casos raros, vieses provenientes dos dados de treinamento e confiança excessiva em respostas para perguntas que deveriam envolver maior grau de incerteza.

Um médico que desconhece essas limitações não é necessariamente mais moderno. É um médico mais vulnerável.

Tecnologia deve apoiar, não substituir, o julgamento médico

Eu realmente amo tecnologia. Acredito no que ela pode fazer pela medicina — nos diagnósticos e laudos que acelera, nos erros que ajuda a evitar e no acesso que pode democratizar.

Mas tecnologia é meio, não fim.

O que me permitiu reconhecer a falha naquela resposta sobre anemia e doença óssea foi exatamente o que nenhuma IA ainda consegue oferecer diretamente a um estudante: anos de raciocínio construído caso a caso, erro a erro, dúvida a dúvida.

A IA pode acelerar muitas etapas desse processo. Mas não pode substituí-lo.

O médico que sabe o suficiente para reconhecer quando a IA está errada está mais preparado do que aquele que nunca a questiona. Formar esse profissional é um dos principais desafios da educação médica atual.

#Conteúdo otimizado com o auxílio de IA e revisado pela equipe do Portal Afya.