IA na medicina: OMS publica documento sobre impacto em políticas de saúde

A Organização Mundial da Saúde (OMS) divulgou, nesta semana, documento técnico tratando das consequências da utilização de ferramentas de inteligência artificial para guiar decisões sobre política públicas de saúde. O texto da OMS (Artificial intelligence and evidence-informed policy – emerging challenges and opportunities) examina a interseção entre IA e políticas baseadas em evidências enfatizando que a IA não substitui o julgamento humano, mas possui potencial para expandir a base de evidências e apoiar uma tomada de decisão mais oportuna, responsiva e iterativa em contextos complexos de saúde.

“O debate político sobre IA tem se concentrado na prática clínica. Este documento redireciona a atenção para onde a base de evidências está sendo efetivamente construída: como os problemas são definidos, como as opções são elaboradas e como o impacto é avaliado.”, afirmou o Dr. Alain Labrique, Diretor de Dados, Saúde Digital, Análise e IA da OMS.

Leia também: Pesquisa revela como médicos e pacientes usam a tecnologia

As questões da IA nas políticas de saúde

Para a OMS, a inteligência artificial oferece capacidades analíticas significativas para o processo de políticas públicas. Contudo, ao mesmo tempo, gera riscos específicos a cada fase do ciclo de desenvolvimento dessas políticas. Por exemplo:

• Um viés nos dados pode distorcer a definição do problema.
• A otimização excessiva de objetivos mensuráveis ​​pode restringir a concepção de soluções.
• Divisões digitais e as vulnerabilidades de segurança cibernética podem prejudicar a implementação.
• Vieses nas ferramentas de monitoramento podem gradualmente desviar as políticas de seus objetivos originais.

Outra preocupação expressa no documento da OMS é a tendência de sistemas de IA de privilegiar evidências quantificáveis ​​e ricas em dados, marginalizando a experiência humana, o conhecimento local, o saber e a perspectiva da comunidade.

IA na prática

O documento identifica pontos onde as ferramentas existentes para a formulação de políticas baseadas em evidências e a necessidade de estruturas de governança para IA ​​já se fazem necessárias:

• transparência;
• engajamento participativo;
• proteção de direitos e supervisão baseada em riscos.

Utilizando diretrizes de ética em IA da OMS, estruturas para tomada de decisão, princípios de dados FAIR e princípios para IA da OCDE, entre outros, o objetivo do documento é ajudar os formuladores de políticas a adaptar os instrumentos existentes para um mundo organizado por IA.

De acordo com a OMS, o documento foi estruturado com o seguinte princípio: “a IA deve complementar, e não automatizar”. Ainda cabe aos humanos a responsabilidade pela formulação das perguntas, avaliação das evidências e interpretação dos resultados, levando em consideração o contexto e questões éticas.

Entenda: A IA ameaça o lugar do médico como referência em saúde?