IA em medicina: OMS publica documento sobre regulamentação

Reconhecendo a importância crescente das ferramentas de inteligência artificial no campo da saúde, a Organização Mundial da Saúde (OMS) publicou, no último dia 19 de outubro, um documento listando considerações de regulamentação que a organização acredita serem pontos-chave para segurança, efetividade e disponibilidade desses instrumentos. 

Para o Diretor-geral da OMS, Dr. Tedros Adhanom, “A Inteligência Artificial tem grande potencial para saúde, mas também possui sérios desafios, incluindo coleta antiética de dados, ameaças de cibersegurança e amplificando vieses ou desinformação.”  

Publicação divide suas considerações de regulamentação em seis diferentes áreas

Documentação e transparência 

De modo a aumentar a confiança e confiabilidade das aplicações utilizando IA, seja com base em aprendizado de máquina, lógica ou análise estatística, a OMS considera ser importante que o desenvolvimento da ferramenta e sua utilização sejam documentados e divulgados de forma clara. 

Gerenciamento de risco e ciclo de vida das ferramentas 

A OMS acredita que os problemas que podem surgir pela utilização das ferramentas devem ser abordados de forma holística, considerando todo o ciclo de vida do produto e todas as ações que o envolvam. Isso inclui considerar na avaliação de risco desde questões de cibersegurança e vulnerabilidades do sistema, capacidade de aprendizado contínuo e necessidade de retreinamento da ferramenta ao nível de intervenção humana necessário para seu funcionamento. 

Uso pretendido e validação 

Precisão e nitidez na descrição do uso pretendido da ferramenta junto à possibilidade de validação clínica ou analítica externa garantiriam a segurança e facilitariam o uso das ferramentas.  

Qualidade dos dados 

O documento da OMS afirma que “dados de boa qualidade” é um termo ambíguo e aberto a erros de interpretação e que o realmente necessário é ter uma boa compreensão do conjunto de dados utilizados, para assim conseguir avaliar a qualidade dos dados em sistemas de IA. 

Privacidade e proteção de dados 

Questões de cibersegurança e de proteção de dados sempre devem ser levadas em conta no desenvolvimento e uso de Inteligência Artificial, principalmente quando se lida com informações de saúde, que são sempre sensíveis. Essa é uma das questões que primeiro é abordada por ações legislativas. Por exemplo, a Europa tem o General Data Protection Regulation (GDPR), os Estados Unidos a Health Insurance Portability and Accountability Act (HIPAA) e o Brasil a Lei Geral de Proteção de Dados (LGPD). 

Colaboração 

A OMS também lista a necessidade de cooperação entre todas as partes envolvidas nos processos tanto de criação e desenvolvimento quanto de utilização das ferramentas de Inteligência Artificial, de entes públicos, sociedades privadas, empresas aos pacientes. Somente com a colaboração será possível garantir que os produtos e serviços sejam utilizados de acordo com as regulações acordadas e de forma a beneficiar a população como um todo. 

O documento completo pode ser acessado através deste link.