🧠 Principais destaques
- A senadora Marsha Blackburn afirmou que a IA do Google inventou uma acusação falsa de abuso sexual envolvendo seu nome.
- O Google confirmou que removeu o modelo Gemma de sua plataforma AI Studio, alegando mau uso por parte dos usuários.
- O caso reacende o debate sobre “alucinações” em sistemas de IA e possíveis vieses políticos em modelos generativos.
O Google anunciou a remoção do modelo Gemma de seu ambiente de desenvolvimento AI Studio após uma acusação pública da senadora americana Marsha Blackburn, do estado do Tennessee.
Em carta enviada ao CEO Sundar Pichai, Blackburn declarou que o modelo teria fabricado uma história falsa sobre suposta má conduta sexual relacionada a ela, incluindo detalhes inexistentes e links quebrados.
A senadora afirmou que o episódio é um exemplo grave de difamação e não um simples erro de geração de texto, questionando a responsabilidade da empresa sobre o conteúdo produzido por seus modelos.
A resposta do Google
Em uma publicação na rede X, o Google confirmou a remoção de Gemma do AI Studio, mas sem mencionar diretamente a carta de Blackburn.
A empresa explicou que o modelo foi criado como ferramenta para desenvolvedores e não como um chatbot voltado ao público em geral.
Segundo o comunicado, houve relatos de pessoas utilizando Gemma de forma inadequada, fazendo perguntas factuais ou pessoais — algo para o qual o sistema não teria sido projetado.
A companhia destacou que continuará oferecendo o modelo Gemma por meio de sua API, voltada a desenvolvedores que integrem a IA em outras plataformas.
O pano de fundo político e técnico
Durante uma audiência no Senado americano, representantes do Google admitiram que “alucinações”, respostas incorretas ou sem base real, são um problema conhecido e que a empresa trabalha para reduzi-las.
Porém, a senadora Blackburn retrucou afirmando que tais respostas falsas representam difamações, não simples falhas técnicas.
O episódio ocorre em meio ao aumento da pressão política sobre grandes empresas de tecnologia. Setores conservadores acusam sistemas de IA de apresentarem vieses ideológicos e de censurarem determinados conteúdos. O próprio ex-presidente Donald Trump chegou a assinar uma ordem executiva contra o que chamou de “IA progressista”.
Com a retirada de Gemma do AI Studio, o Google tenta conter os danos e reforçar o controle sobre como seus modelos são usados, mas o caso deve prolongar o debate sobre responsabilidade, transparência e limites da inteligência artificial.
✨ Curtiu este conteúdo?
O GDiscovery está aqui todos os dias trazendo informações confiáveis e independentes sobre o universo Google - e isso só é possível com o apoio de pessoas como você. 🙌
Com apenas R$ 5 por mês, você ajuda a manter este trabalho no ar e leva informação de qualidade para ainda mais gente!
