As transformações da saúde pela IA e os desafios para a sua regulação

Nos últimos anos, a inteligência artificial (IA) tornou-se uma força disruptiva no setor da saúde, oferecendo desde avanços no processo de diagnóstico até o suporte à tomada de decisões clínicas. No entanto, juntamente com esses avanços, surgem preocupações sobre segurança, eficácia e regulamentação.

Nesse sentido, três artigos publicados no Lancet Digital Health fornecem uma visão abrangente sobre os desafios e as oportunidades neste cenário atual de inserção crescente da IA no setor saúde, especialmente no que diz respeito à segurança do paciente, à eficácia dos custos e à necessidade de regulamentações mais rígidas.

A IA, especialmente os grandes modelos de linguagem (LLMs), como o GPT-4, tem transformado várias áreas da medicina, desde o diagnóstico até o próprio atendimento ao paciente. A capacidade dessas ferramentas de processar grandes quantidades de dados e de fornecer insights rápidos as torna valiosas para tarefas como análise de imagens médicas, planejamento de tratamentos e até mesmo monitoramento remoto de pacientes​.

No entanto, enquanto essas tecnologias prometem revolucionar a assistência médica, sua rápida evolução apresenta desafios significativos em termos de segurança e de regulação.

Desafios

Os LLMs, como o GPT-4, possuem um notável potencial para aprimorar os cuidados em saúde, mas também levantam questões sobre necessidades regulatórias. Um exemplo do desafio é a utilização dos modelos, já disponíveis para o público leigo, para fins de aconselhamento médico.

Os sistemas tem a possibilidade de gerar informações não verificadas que podem parecer úteis, porém são incorretas ou até mesmo potencialmente perigosas. Estudos indicam que, devido à sua natureza inespecífica, os LLMs podem “alucinar” diagnósticos ou recomendações, gerando conteúdos que parecem plausíveis, porém incorretos.

Regulamentar essas tecnologias é difícil, pois não se encaixam nos moldes tradicionais de dispositivos médicos. A legislação existente muitas vezes não é clara quanto à classificação desses sistemas, o que resulta em uma lacuna regulatória significativa.

Panorama atual

O Ato de IA da União Europeia, aprovado recentemente, busca mitigar alguns desses riscos ao exigir maior transparência e responsabilização das empresas desenvolvedoras, mas ainda há muito a ser feito para garantir a segurança dos pacientes e profissionais que utilizam essas ferramentas.

Uma proposta para lidar com esses desafios é a criação de novos padrões de relatórios, como o CHEERS-AI, que fornece diretrizes para garantir a transparência na avaliação de custo-efetividade de intervenções baseadas em IA. Além disso, há um aumento de pressão e de demanda por mais estudos clínicos rigorosos para validar a segurança e eficácia dessas tecnologias

Inovação x segurança do paciente

Um dos maiores desafios no uso da IA na saúde é equilibrar a inovação com a segurança do paciente. Sem dúvida há o potencial de melhorar diagnósticos e tratamentos de doenças, entretanto, sem a devida regulação, há a possibilidade de amplificação de problemas, como o viés algorítmico, que pode perpetuar desigualdades no atendimento à saúde​.

Por exemplo, o treinamento de uma IA pode ser realizado em dados enviesados em termos de características demográficas, sociais e populacionais, o que pode resultar em decisões clínicas prejudiciais para certos grupos de pacientes. Para mitigar esses riscos, alguns especialistas sugerem a criação de comitês de ética e equidade para revisar e supervisionar o desenvolvimento de tecnologias de IA.

Além disso, a cibersegurança é uma preocupação crescente, uma vez que sistemas baseados em IA podem ser vulneráveis a ataques cibernéticos capazes de comprometer dados sensíveis de saúde. O aumento do número de ataques cibernéticos no setor de saúde nos últimos anos mostra que os sistemas precisam ser reforçados para garantir a proteção tanto dos dados quanto da integridade das operações de saúde.

Viabilidade econômica

Outro aspecto importante a ser considerado é a avaliação econômica das intervenções baseadas em IA. Os decisores em saúde em última instância, como reguladores e financiadores, precisam garantir que as tecnologias baseadas em IA não sejam apenas clinicamente eficazes, como custo-efetivas.

A transparência na avaliação econômica dessas intervenções é fundamental para garantir que os recursos escassos destinados à saúde sejam utilizados de forma eficiente no sistema.

O desenvolvimento de diretrizes de relatórios, como as diretrizes CHEERS-AI, tem sido essencial para fornecer um padrão claro para a avaliação econômica de tecnologias de saúde baseadas em IA. Essas diretrizes ajudam a garantir que os estudos que avaliam a IA na saúde forneçam informações consistentes e reproduzíveis para apoiar decisões baseadas em evidências.

Conclusão

Embora a IA tenha o potencial de transformar o setor de saúde, sua implementação deve ser acompanhada de uma regulação robusta para mitigar riscos e garantir a segurança dos pacientes.

É necessário a colaboração entre desenvolvedores, profissionais de saúde e reguladores de modo a garantir que as tecnologias sejam devidamente avaliadas e supervisionadas antes de serem amplamente disponibilizadas. Isso inclui garantir que intervenções baseadas em IA sejam clinicamente eficazes, custo-efetivas e seguras para todos os usuários.

Somente com uma regulamentação adequada será possível equilibrar os benefícios da IA com a necessidade de proteger a saúde e a privacidade dos pacientes.