Estudo alerta para falhas em chatbot de IA no setor médico e reforça a necessidade de supervisão humana
A inteligência artificial (IA) tem revolucionado diversos setores, incluindo a saúde. No entanto, a incorporação de chatbots de IA para fornecer informações médicas levanta preocupações significativas.
Um estudo recente publicado na British Medical Journal (BMJ), em 11 de outubro, destacou essas limitações ao avaliar o desempenho do chatbot Bing, alimentado pelo Microsoft Copilot, no fornecimento de informações sobre medicamentos. A pesquisa apontou que a IA não se mostrou confiável para fornecer orientações precisas e seguras: em 24% dos casos, as respostas não correspondiam ao conhecimento médico e, em 3% das respostas, as informações estavam totalmente incorretas.
Avaliação das Respostas: Precisão e Riscos à Saúde
Pesquisadores da Alemanha e Bélgica conduziram o estudo com 500 respostas do Copilot, analisando 10 perguntas frequentes sobre os 50 medicamentos mais prescritos nos Estados Unidos. A avaliação considerou três aspectos principais: legibilidade, precisão e integridade das informações. O objetivo era verificar se a IA poderia oferecer respostas úteis e seguras para pacientes.
Principais Resultados da Pesquisa:
- 54% das respostas estavam alinhadas ao consenso científico;
- 39% continham informações imprecisas ou conflitantes com o conhecimento médico;
- 36% das respostas foram consideradas inofensivas à saúde;
- 42% apresentaram risco de danos moderados ou leves à saúde;
- 22% representaram potencial risco de morte ou dano grave.
Outro ponto crítico foi o nível de leitura exigido pelos textos gerados. De acordo com a métrica Flesch Reading Ease Score, boa parte das respostas do Copilot necessitava de uma capacidade de compreensão equivalente a um nível educacional elevado, dificultando o entendimento por pacientes com menos escolaridade.
IA na Saúde: Promessas e Limitações
Embora o desempenho do chatbot Copilot tenha gerado preocupação, os pesquisadores ressaltam que esses resultados não significam que a IA deve ser descartada do setor médico. É importante lembrar que muitos sistemas de IA são treinados com bases de dados amplas disponíveis na internet, que frequentemente contêm informações falsas ou imprecisas. Esse desafio reforça a necessidade de supervisão humana e validação rigorosa das informações.
Por outro lado, o uso de IA especializada em tarefas específicas na saúde já apresenta avanços significativos. Ferramentas de aprendizado de máquina voltadas para a detecção precoce de doenças, como câncer de mama, têm superado a média de acertos de médicos em certos casos. Além disso, algoritmos de IA desempenham um papel importante na análise de imagens médicas e na interpretação de exames complexos, acelerando diagnósticos e otimizando tratamentos. A tecnologia também tem sido fundamental para identificar novos candidatos a medicamentos e auxiliar na gestão de dados em larga escala.
O Caminho para um Uso Ético e Eficaz da IA na Saúde
O estudo divulgado pelo BMJ levanta questões relevantes sobre os limites e desafios do uso da IA em interações com pacientes. Embora a tecnologia possa ser uma aliada poderosa, seu uso deve ser acompanhado por regulamentação, supervisão profissional e aprimoramento contínuo para garantir que ela ofereça benefícios reais e seguros. A chave está no desenvolvimento de sistemas de IA mais robustos e especializados, que possam complementar a atuação humana, mas sempre com foco na ética e na segurança dos pacientes.
Fonte: The Republic