Google detecta ataque massivo para clonar lógica do Gemini com mais de 100 mil prompts

Principais destaques

• Google identificou campanha com mais de 100 mil comandos para tentar copiar o funcionamento interno do Gemini
• Hackers ligados a China, Irã, Coreia do Norte e Rússia estariam usando IA em todas as etapas de ataques cibernéticos
• Empresa afirma que bloqueou as tentativas e reforçou a proteção dos registros internos do modelo

O Google revelou que seu modelo de inteligência artificial, o Gemini, foi alvo de uma campanha massiva que tentou extrair sua lógica interna.

Segundo o Grupo de Inteligência de Ameaças da empresa, foram disparados mais de 100 mil prompts em uma única ofensiva com o objetivo de entender e replicar o funcionamento do sistema.

A descoberta faz parte do relatório trimestral AI Threat Tracker, que aponta uma escalada nas tentativas de roubo de propriedade intelectual envolvendo modelos de IA.

A prática é conhecida como ataque de destilação ou extração de modelo, quando criminosos tentam reconstruir o raciocínio de um sistema por meio de perguntas cuidadosamente elaboradas.

De acordo com o Google, a investida foi detectada em tempo real e os chamados registros de raciocínio interno foram preservados.

O que são ataques de destilação e por que preocupam

Nos ataques de destilação, invasores submetem o modelo a milhares de solicitações estratégicas para mapear padrões de resposta. A ideia é descobrir como a inteligência artificial organiza informações e toma decisões, o que pode permitir a criação de uma versão paralela ou adaptada do sistema original.

Em termos simples, é como tentar descobrir a receita secreta de um produto fazendo inúmeras perguntas sobre seus ingredientes e modo de preparo. Se bem-sucedido, o processo pode resultar na cópia de tecnologia proprietária, um ativo altamente valioso no competitivo mercado de IA.

O analista-chefe do Grupo de Inteligência de Ameaças do Google, John Hultquist, afirmou que a empresa pode estar funcionando como um sistema de alerta antecipado para outras organizações que também enfrentam riscos semelhantes.

Atores estatais usam IA em todas as fases do ataque

O relatório também aponta a atuação de grupos ligados a governos estrangeiros. Entre eles está o APT31, associado à China, que teria utilizado prompts estruturados para simular pesquisas de segurança e obter análises automatizadas de vulnerabilidades.

Já o APT42, relacionado ao Irã, teria usado o Gemini para criar estratégias de engenharia social, buscar contatos oficiais e montar perfis convincentes para abordar alvos específicos. Outro grupo citado é o UNC2970, vinculado à Coreia do Norte, que teria recorrido ao chatbot para reunir informações públicas e identificar alvos de alto valor em empresas de defesa e cibersegurança.

Um dos pontos mais preocupantes destacados pelo Google é que a qualidade do idioma deixou de ser um sinal claro de fraude. Com a ajuda da IA, criminosos conseguem produzir mensagens altamente personalizadas e culturalmente ajustadas, tornando os golpes mais difíceis de detectar.

Mercado clandestino de IA ofensiva ganha força

O levantamento também revelou a existência de serviços ilegais que prometem modelos de IA personalizados para fins ofensivos. Um dos exemplos citados é o kit Xanthorox, que se apresentava como uma inteligência artificial própria para criação de malware e campanhas de phishing.

A investigação mostrou que, na prática, o serviço utilizava APIs comerciais com desbloqueios indevidos, incluindo o Gemini, além de servidores de código aberto. O Google afirmou que desativou todas as contas vinculadas à ferramenta.

Outra descoberta foi a identificação de uma nova família de malware chamada HONESTCUE. Ela utiliza a API do Gemini para gerar códigos capazes de baixar e executar cargas maliciosas adicionais sem deixar arquivos suspeitos gravados no disco, o que dificulta a detecção por antivírus tradicionais.

O cenário reforça um alerta: à medida que a inteligência artificial avança, ela se torna tanto uma ferramenta de inovação quanto um instrumento poderoso nas mãos de atacantes. A corrida agora não é apenas tecnológica, mas também estratégica.