Um erro cometido pela inteligência artificial médica do Google reacendeu o debate sobre os limites da tecnologia na área da saúde.
Durante a apresentação do Med-Gemini, um modelo de IA desenvolvido para interpretar exames e auxiliar em diagnósticos, o sistema identificou uma condição em uma região do cérebro chamada “basilar ganglia”, uma parte que simplesmente não existe.
A IA confundiu os termos “basal ganglia” (estrutura real) com “basilar artery” (outra parte do cérebro), criando uma denominação incorreta e potencialmente perigosa.
O equívoco foi publicado em um artigo científico e também em um post oficial do Google Health, sem que nenhum dos mais de 50 autores ou revisores notasse o problema.
A falha só foi descoberta por um neurologista especialista em IA, que alertou a empresa. Em vez de um comunicado público, o Google alterou silenciosamente o conteúdo do blog para corrigir a palavra, mantendo o artigo original sem mudanças.
A empresa justificou o erro como uma simples digitação incorreta, mas profissionais da área médica consideram a falha um exemplo dos riscos reais que a IA pode apresentar quando utilizada em ambientes clínicos.
Segundo especialistas, erros como esse podem se espalhar com facilidade nos sistemas automatizados. Uma vez que a IA aprende com dados anteriores, um diagnóstico incorreto pode ser replicado inúmeras vezes.
O fenômeno é conhecido como viés de automação: por confiar demais nas respostas da IA, que na maioria das vezes parece estar certa, médicos e profissionais podem deixar de revisar cuidadosamente o conteúdo gerado, aumentando o risco de falhas passarem despercebidas.
Mesmo com todos os avanços, o uso da inteligência artificial na medicina ainda exige cautela.
Modelos como o MedGemma, versão mais recente da IA médica do Google, continuam apresentando respostas inconsistentes dependendo da forma como são questionados.
Especialistas defendem que, em vez de substituir profissionais de saúde, essas tecnologias devem servir como ferramentas de apoio, sempre com revisão humana.
✨ Curtiu este conteúdo?
O GDiscovery está aqui todos os dias trazendo informações confiáveis e independentes sobre o universo Google - e isso só é possível com o apoio de pessoas como você. 🙌
Com apenas R$ 5 por mês, você ajuda a manter este trabalho no ar e leva informação de qualidade para ainda mais gente!
