Dispositivos médicos com IA exigem avaliação crítica de riscos assistenciais

O uso da inteligência artificial (IA) na medicina surgiu com alguns padrões que os médicos com mais tempo de carreira já estão acostumados. Como muitas outras tecnologias, ela chegou com grandes promessas, expandiu-se com rapidez e passou a gerar desconfiança à medida que os dados mostraram uma realidade mais complexa.

Esse tem sido o cotidiano profissional com a adoção de ferramentas com inteligência artificial em velocidade muito maior do que a capacidade de avaliá-las criticamente. O risco não está no uso da tecnologia em si, mas na ausência de um olhar clínico mais atento sobre ela.

Entre 2015 e 2020, 92% dos 222 dispositivos médicos com IA aprovados pelo FDA foram avaliados por submissão por equivalência com dispositivos já existentes, sem exigência de novas evidências clínicas, segundo revisão de Fraser et al. (2023), publicada no Expert Review of Medical Devices. Em outro levantamento, apenas 9 de 64 dispositivos com IA haviam passado por aprovação de novo ou pré-mercado.

Esses dados têm peso clínico, porque quando um médico utiliza um dispositivo aprovado, ele não está necessariamente usando uma tecnologia com eficácia comprovada para melhorar desfechos em pacientes. Em muitos casos, utiliza uma tecnologia que demonstrou equivalência técnica a algo que já existia, ou que passou por avaliação insuficiente.

Clark, Kim e Aphinyanaphongs (2023), em revisão publicada no JAMA Network Open, foram ainda mais específicos ao investigar as discrepâncias entre o que os fabricantes dizem nos materiais de marketing e o que consta nas aprovações do FDA. Dos 119 dispositivos analisados, 12,6% foram classificados como discrepantes: eram comercializados com alegações de capacidades de IA ou machine learning que não constavam na documentação de aprovação regulatória e não apareciam na lista pública de dispositivos com IA habilitada do FDA. Outros 6,7% foram classificados como controversos, com linguagem de marketing que sugeria inteligência artificial sem afirmá-la explicitamente.

Viés algorítmico em dispositivos médicos com IA

Um algoritmo com viés incorporado nos dados de treinamento pode, de forma sistemática, subestimar ou superestimar riscos em populações inteiras.

Labkoff et al. (2024), em relatório publicado no Journal of the American Medical Informatics Association, documentaram esse problema como uma das principais preocupações identificadas por mais de 200 especialistas reunidos em workshop sobre IA em sistemas de suporte à decisão clínica.

O grupo, que incluiu médicos, desenvolvedores, acadêmicos, eticistas e reguladores, identificou que o viés algorítmico pode surgir de múltiplas fontes, como representação diferencial de raça, gênero e condições socioeconômicas nos dados de treinamento, premissas de design inadequadas vindas de vieses experienciais dos próprios desenvolvedores, codificação de dados por diferentes convenções locais e falha em considerar valores e preferências dos pacientes.

O que precisa ser avaliado antes do uso clínico

O risco está em usar tecnologias de IA sem saber qual pergunta elas estão respondendo, em qual população foram treinadas, com qual evidência foram aprovadas e com qual grau de supervisão clínica devem ser usadas.

Shanmugam et al. (2026) reforçam que a adoção clínica exige uma avaliação mais ampla que as métricas de acurácia. Devem ser considerados aspectos como integração ao fluxo de trabalho, usabilidade, segurança, monitoramento de mundo real e evidência de que o sistema melhora desfechos que importam para os pacientes, não apenas que produz resultados corretos em condições controladas.

Avaliação de sistemas com IA em saúde

Alelyani (2025), em estudo publicado no Scientific Reports, desenvolveu um framework de dez dimensões para avaliar sistemas autônomos com IA em saúde. No domínio técnico, são destacados como importantes a qualidade dos dados, a validação do modelo e a robustez. No domínio operacional, a explicabilidade, ou capacidade de explicar o comportamento de um modelo em termos humanos, ocupa posição de alerta.

Outro ponto relevante é a dimensão de colaboração humano-IA, em que a confiança é maior quando o sistema aumenta o poder de decisão humana e quando o médico tem mecanismos claros para contestar ou ignorar a recomendação do algoritmo.

Labkoff et al. (2024) também propõem um conceito análogo a um rótulo nutricional para sistemas de IA clínica, que deveria conter o caso de uso ótimo do sistema, informações sobre os dados de treinamento e vieses potenciais conhecidos, duração da certificação, informações de versão, limitações e advertências, algoritmos usados, resultados de validação e pré-requisitos de treinamento para o usuário.

Perguntas que o médico deve fazer antes de usar IA

Alelyani (2025) desenvolveu uma matriz de perguntas por perfil de stakeholder, incluindo clínicos, desenvolvedores e reguladores, que pode ser adaptada para o uso prático no dia a dia clínico.

Para o médico que avalia se deve confiar em um sistema de IA, as perguntas fundamentais são:

• O sistema produz resultados consistentes entre diferentes tipos de pacientes e contextos de atendimento?
• Consigo contestar, anotar ou ignorar facilmente a recomendação da IA?
• A interface é intuitiva e de baixo atrito no meu fluxo de trabalho diário?
• Compreendo por que essa recomendação foi gerada, especialmente em casos limítrofes?

O médico como avaliador ativo da tecnologia

O cenário regulatório para dispositivos médicos com IA ainda está em construção. No entanto, o que parece consenso nos diferentes artigos que formam a base deste texto é a necessidade de mudança da validação única e estática para a supervisão contínua ao longo do ciclo de vida, assim como da aprovação baseada em acurácia técnica para a avaliação de impacto clínico real.

Como médicos, já avaliamos tecnologias constantemente, incluindo exames, protocolos, medicamentos e procedimentos. Com a IA, o caminho é o mesmo, ainda que com um vocabulário novo e a compreensão de que os médicos não são apenas usuários, mas avaliadores ativos da tecnologia. Se o algoritmo errar, o erro pode ter consequências, e a responsabilidade clínica continua sendo nossa.

#Conteúdo otimizado com o auxílio de IA e revisado pela equipe do Portal Afya.

Afya Summit

Se tem interesse em conhecer mais sobre temas de inovação, saúde e tecnologia, não perca a chance de participar do evento dedicado ao mundo médico! Inscreva-se no Afya Summit.

O evento ocorrerá em SP, dia 29/8/2026. Marque na agenda e garanta seu ingresso!