Revisão por pares: IA reacende dilemas sobre confiança e responsabilidade humana

Existe uma certa ironia em escrever este texto. Ele foi revisado com apoio de inteligência artificial — para explicar um artigo que discute, justamente, os riscos e os limites do uso de inteligência artificial. Se você também usou IA para chegar até aqui, bem-vindo ao clube. Estamos todos no mesmo experimento.

Em agosto de 2025, editores do JAMA publicaram um editorial sobre o uso da IA na revisão por pares. O texto é equilibrado e não foge muito da mesma conversa que temos em salas de redação, consultórios, escritórios de advocacia, salas de aula e laboratórios ao redor do mundo. As dúvidas são as mesmas em todo lugar. Só o cenário muda.

Leia mais: Diagnósticos por IA na emergência: apoio à decisão ou risco ao raciocínio clínico? – Portal Afya

Por que a revisão por pares na medicina voltou ao centro do debate

A revisão por pares é o mecanismo pelo qual especialistas avaliam manuscritos científicos antes de sua publicação. É ela que confere credibilidade à medicina baseada em evidências.

Mas o sistema está sobrecarregado: mais periódicos, mais manuscritos, menos revisores disponíveis. Muitos pesquisadores relatam “fadiga do revisor” e simplesmente deixam de aceitar convites para revisar. O processo é lento, sujeito a vieses e, mesmo assim, não impede a publicação de pesquisas fraudulentas ou de baixa qualidade.

A IA entra nesse contexto como uma possível solução. Modelos de linguagem como o ChatGPT conseguem resumir textos, identificar inconsistências, verificar adesão a checklists metodológicos e sinalizar itens ausentes em questão de segundos. No papel, parece perfeito.

Os riscos da IA na revisão científica

As preocupações que os editores do JAMA levantam sobre a IA na revisão por pares são as mesmas que profissionais de diferentes áreas já enfrentam ao adotar essas ferramentas.

Alucinação e erros difíceis de detectar

Modelos de IA podem gerar referências fictícias, apontar erros que não existem ou deixar passar problemas reais. Na revisão de artigos científicos, isso é grave. Mas o mesmo risco existe quando a IA auxilia em um diagnóstico clínico, uma análise jurídica ou um relatório financeiro.

Confidencialidade de manuscritos e dados inéditos

Carregar um manuscrito inédito em uma ferramenta pública de IA pode vazar dados não publicados. É o mesmo risco de inserir um prontuário, um contrato ou uma estratégia empresarial em um prompt sem avaliar as consequências.

Viés e reforço do consenso existente

Os modelos são treinados na literatura existente e tendem a privilegiar o que já é consenso — o que pode sufocar pesquisas inovadoras. Esse mesmo viés aparece em sistemas de triagem de currículos, concessão de crédito e recomendação de tratamentos.

Descarregamento cognitivo e perda de julgamento crítico

Delegar demais à IA pode atrofiar o raciocínio crítico humano. Um revisor que deixa a máquina pensar por ele perde exatamente aquilo que torna sua avaliação valiosa: o julgamento experiente, a leitura nas entrelinhas e a percepção do que é realmente novo.

Isso vale para o médico, o professor e o gestor.

Desigualdade de acesso às melhores ferramentas

Quem tem acesso a ferramentas melhores leva vantagem. Isso cria assimetrias entre instituições ricas e pobres, entre países e entre profissionais. A tecnologia que poderia democratizar o conhecimento pode, paradoxalmente, aprofundar diferenças.

A resposta do JAMA sobre IA na revisão por pares

Os editores do JAMA não propõem banir a IA nem adotá-la sem critério. A metáfora que usam é precisa: a IA como tecnologia de assistência ao motorista. Controle de cruzeiro adaptativo. Detecção de ponto cego. Útil, capaz de aliviar o esforço e prevenir erros — mas sem tirar as mãos do volante ou os olhos da estrada.

Essa visão está se tornando um consenso em praticamente todos os campos. A IA como copiloto, não como piloto automático.

O humano no processo não é um detalhe burocrático. É a condição para que o uso seja responsável. São os humanos que respondem pelos erros, percebem o que os modelos não percebem e julgam o que os dados não conseguem capturar.

O que isso significa para médicos, pesquisadores e profissionais de saúde

Se você é médico, pesquisador ou profissional de saúde, provavelmente já usa IA de alguma forma — para redigir, pesquisar, organizar ou revisar. E provavelmente já sentiu aquela mistura de entusiasmo e desconforto: ela é rápida, mas será que está certa? Será que posso confiar? Será que consigo voltar a fazer como fazia antes? Será que ainda tenho capacidade de trabalhar sem esse recurso?

Nem todas as perguntas têm resposta definitiva. O JAMA está testando. O BMJ está testando. As universidades estão testando. Os hospitais estão testando. Estamos todos, coletivamente, descobrindo onde a IA ajuda de verdade e onde ela atrapalha — ou, pior, onde ela dá uma resposta segura e errada ao mesmo tempo.

A única certeza, por ora, é que a pergunta não é mais “devo usar IA?”. A pergunta é: “como usar IA de forma que eu ainda seja responsável pelo que produzo?”.

Este texto foi escrito com esse cuidado. Mas a última palavra — como sempre deve ser — foi humana.

#Conteúdo otimizado com o auxílio de IA e revisado pela equipe do Portal Afya.