O Google está novamente no centro de uma polêmica envolvendo o AI Overviews, seu sistema de respostas geradas por inteligência artificial na Busca.
Desta vez, o problema surgiu após um trágico acidente com um avião da Air India, ocorrido recentemente na Índia.
Segundo relatos de usuários, ao buscar por informações sobre o caso, a IA do Google passou a afirmar, de forma equivocada, que o avião envolvido era um Airbus. Na verdade, a aeronave era um Boeing 787.
O erro chamou a atenção de internautas, especialmente porque, nos últimos anos, o público tem se mostrado mais atento ao modelo de aviões envolvidos em acidentes, muito em razão de problemas anteriores com a linha 737 da Boeing.
A confusão foi relatada por um usuário no Reddit, que buscava por acidentes envolvendo aviões da Airbus e se deparou com a resposta incorreta do AI Overviews.
Em alguns testes feitos por outros usuários, a IA chegou a apresentar respostas ainda mais confusas, misturando os nomes das duas fabricantes na mesma informação.
O problema está relacionado à forma como a IA do Google funciona. Como a tecnologia é baseada em geração de texto de maneira não determinística, o conteúdo apresentado pode variar a cada nova busca, mesmo quando a consulta é idêntica.
Aparentemente, o AI Overviews se confundiu ao tentar resumir conteúdos de notícias que, ao mencionar o acidente, citavam a Airbus apenas como concorrente da Boeing. Com isso, a IA acabou construindo uma resposta incorreta, ligando o nome da Airbus ao desastre.
O Google respondeu ao caso em um comunicado enviado ao site Ars Technica. A empresa confirmou que o erro já foi corrigido manualmente e afirmou:
“Como acontece com todos os recursos da Busca, fazemos melhorias constantes e usamos exemplos como este para atualizar nossos sistemas. Esta resposta não está mais aparecendo. Mantemos um padrão de qualidade elevado em todos os recursos da Busca, e a taxa de precisão do AI Overviews está no mesmo nível de outras funcionalidades como os Featured Snippets.”
Ainda assim, o episódio reforça a importância de conferir sempre mais de uma fonte ao buscar informações críticas, especialmente quando a resposta vem de uma IA.
✨ Curtiu este conteúdo?
O GDiscovery está aqui todos os dias trazendo informações confiáveis e independentes sobre o universo Google - e isso só é possível com o apoio de pessoas como você. 🙌
Com apenas R$ 5 por mês, você ajuda a manter este trabalho no ar e leva informação de qualidade para ainda mais gente!
