Principais destaques
- Modo Avançado do Google Tradutor, baseado no Gemini, pode ser manipulado por injeção de prompt
- Pesquisadores demonstraram geração de conteúdos proibidos em vez de simples tradução
- Falha afeta recurso ainda em disponibilização limitada nos Estados Unidos e na Índia
Uma vulnerabilidade descoberta por pesquisadores de segurança revelou que o modo Avançado do Google Tradutor, alimentado pelo modelo Gemini, pode ser explorado para ignorar sua função principal de tradução.
Em vez de converter textos entre idiomas, o sistema pode ser induzido a seguir instruções ocultas inseridas no próprio conteúdo traduzido.
O problema envolve uma técnica conhecida como injeção de prompt, em que comandos são embutidos dentro de um texto aparentemente comum. Ao processar esse material, o modelo de linguagem interpreta as instruções como algo a ser executado, não apenas traduzido.
Como a falha foi descoberta
A vulnerabilidade foi inicialmente apontada por um usuário do Tumblr identificado como Argumate.
Ele compartilhou capturas de tela mostrando que era possível inserir uma pergunta em chinês acompanhada de uma instrução em inglês pedindo ao modelo que respondesse, e não traduzisse. O resultado surpreendeu: o sistema respondeu à pergunta em vez de cumprir sua função original.
Uma análise publicada na plataforma LessWrong explicou o mecanismo técnico por trás do problema. Segundo o pesquisador, o modelo precisa compreender semanticamente a instrução para traduzi-la.
Ao entender o comando, acaba executando-o. Testes indicaram que a exploração funciona com diferentes idiomas de origem, como chinês, japonês, coreano e árabe, quando traduzidos para o inglês.
Conteúdos indevidos e riscos ampliados
O pesquisador de segurança conhecido como Pliny the Liberator aprofundou os testes e demonstrou que o tradutor poderia ser levado a produzir instruções sensíveis, incluindo orientações para criar substâncias ilícitas ou códigos maliciosos simples.
Em publicações na plataforma X, ele afirmou que o modelo de backend identificado como Gemini 1.5 Pro poderia ser manipulado para gerar respostas que normalmente estariam bloqueadas por políticas de segurança.
A demonstração reforça um alerta recorrente na comunidade de cibersegurança sobre os riscos de modelos de linguagem com capacidades amplas sendo aplicados a tarefas específicas.
Disponibilidade limitada e posição do Google
A falha afeta exclusivamente o modo Avançado do Google Tradutor, que utiliza o modelo Gemini em vez do sistema tradicional de tradução automática.
O recurso foi anunciado oficialmente pelo Google em dezembro de 2025, com a promessa de oferecer melhor interpretação de gírias, expressões idiomáticas e linguagem coloquial.
Até o momento, a funcionalidade está disponível principalmente para usuários nos Estados Unidos e na Índia, como parte de um lançamento gradual.
A empresa ainda não comentou publicamente sobre essa vulnerabilidade específica. Em posicionamentos anteriores, o Google afirmou que ataques de injeção de prompt não fazem parte do escopo de seu programa de recompensas por falhas em sistemas de inteligência artificial.
O caso evidencia um desafio crescente na adoção de grandes modelos de linguagem para aplicações direcionadas. Quando o sistema precisa compreender profundamente o texto para traduzi-lo, abre-se uma brecha potencial para que comandos disfarçados sejam executados, escapando das restrições originais do produto.
✨ Curtiu este conteúdo?
O GDiscovery está aqui todos os dias trazendo informações confiáveis e independentes sobre o universo Google - e isso só é possível com o apoio de pessoas como você. 🙌
Com apenas R$ 5 por mês, você ajuda a manter este trabalho no ar e leva informação de qualidade para ainda mais gente!
