ChatGPT e o futuro da medicina: potenciais armadilhas e benefícios

Recentemente vimos o nome ChatGPT ganhar cada vez mais espaço nos canais de comunicação físicos e digitais. Com ele o vislumbre de um futuro “não-tão-distante-assim” em que a inteligência artificial ampara o desenvolvimento de uma capacidade técnico-científica sobre-humana ganha corpo. Há quem se questione dos reais benefícios para a sociedade, mas, o que podemos filtrar de todo o hype gerado e aplicar na prática da medicina e o desenvolvimento das ciências da saúde? 

O que é o ChatGPT? 

O ChatGPT é um software criado a partir do uso de um algoritmo de aprendizado de máquina baseado na técnica do processamento de linguagem natural (NLP na sigla em inglês). Fundamentalmente o algoritmo é exposto a um massivo banco de dados (Big Data) que engloba documentos textuais e que discorrem sobre os mais variados temas. Inclusive muitos desses textos podem ter sido gerados entre conversas simuladas que visam abordar determinado assunto. A partir da exposição maciça, o algoritmo tentará encontrar padrões que serão utilizados para cumprir a função incumbida a ele, algo conhecido como aprendizado supervisionado. Então o modelo gerado é exposto a dados nunca antes vistos, mas que podem se assemelhar ao previamente exposto. Através de uma tutoria humana são feitos questionamentos dirigidos à máquina e, a partir das respostas emitidas, há uma forma de recompensa ou punição para as respostas certas e erradas a partir da visão do examinador. A isso dá-se o nome de aprendizado por reforço (reinforcement learning).  

Logo, o ChatGPT gera respostas a partir de padrões previamente aprendidos, simulando conversas humanas, e em formato textual, além de ser capaz de aprimorar sua metodologia quanto maior forem os dados “inputados” e corrigidos por método de reforço (à maneira como uma criança aprende a identificar objetos e atribuir etiquetas específicas a eles).  

Aplicações na literatura médica 

Não obstante, podemos imaginar que um algoritmo de NLP treinado em um banco de dados composto por literatura científica médica possa, de maneira muito satisfatória e otimizada, gerar artigos de revisão, sumários e até mesmo trabalhos originais, assim como auxiliar na estruturação da linguagem do artigo e na revisão bibliográfica.  

Em um artigo completamente inédito publicado na revista Radiological Society of North America (RSNA – que a propósito tem como um dos editores o médico brasileiro Felipe Kitamura), Som Biswas compartilha a autoria com o próprio software que aqui abordamos. Nele, os títulos e subtítulos foram fornecidos ao algoritmo, enquanto o corpo do texto foi gerado pelo ChatGPT e revisado a posteriori pelo Dr. Biswas.  

Outras possíveis aplicações 

O desenvolvimento da tecnologia pode auxiliar ainda na orientação de dúvidas frequentes de pacientes, geração de textos em linguagem não-científica para instrução dos indivíduos em vigência de tratamento de determinadas doenças, formulação de receituários, monitoramento remoto a partir de perguntas frequentes sob a condição clínica do paciente, ferramenta de suporte à decisão clínica, identificação de interações medicamentosas, dentre outros.  

Inclusive, o ChatGPT foi recentemente treinado em um banco de provas do USMLE (United States Medical Licensing Exame) e posteriormente exposto a uma prova inédita e obteve a pontuação necessária para aprovação. Tal dado levanta a possibilidade de utilizar o aprendizado de máquina na educação médica, a partir da seleção de temas mais relevantes e a metodologia otimizada a ser utilizada, visando a aprovação em avaliações. 

Potenciais conflitos 

Como era de se esperar, contrapontos devem ser levantados quando conversamos sobre ciência, principalmente em campos que estejam na fronteira do conhecimento. Existe uma máxima no campo do aprendizado de máquina que diz: “Garbage in, garbage out” (no bom e velho português: lixo entra, lixo sai). O que isso quer dizer? O algoritmo utiliza-se dos dados que foram fornecidos para gerar respostas, o que pode trair o perfeito funcionamento da aplicação. Se dados enviesados são atribuídos, respostas enviesadas são expelidas. Questões éticas podem ser levantas com relação a atribuição de autoria (transparência), responsabilização penal e civil pelo conteúdo do texto, uso de dados e linguagem específicos de uma etnicidade e nacionalidade “privilegiada” que contempla os maiores periódicos do mundo e que estejam acessíveis às tecnologias disponíveis. Erros podem ser gerados a partir de dados enviesados e que não foram previamente ou posteriormente revisados por seres humanos como forma de conferência. 

Leia também: 33% dos médicos e 26% dos enfermeiros no país atenderam pacientes por teleconsulta

Conclusão

Enfim, o desenvolvimento de tecnologias é sempre bem-vindo desde que acompanhado pelo olhar do ser-humano em atenção aos seus desafios socioculturais e econômicos. Aspectos éticos e legais devem ser levados em consideração e as possíveis limitações, que não são poucas, devem estar sempre no radar, a fim de se prevenir potenciais danos da tecnologia.