A inteligência artificial, que tantas empresas adotaram para impulsionar inovações, está agora causando um efeito colateral preocupante no setor de segurança digital.
Google, Mozilla, Microsoft e Meta estão entre as empresas que têm enfrentado um aumento no número de relatórios de falhas gerados por modelos de linguagem que inventam vulnerabilidades inexistentes.
Esses relatórios, chamados de AI slop, chegam aos programas de recompensa por bugs com aparência profissional, mas sem qualquer base técnica real.
Os relatos desse problema têm se multiplicado em todo o setor. Em muitos casos, os textos parecem tecnicamente corretos e bem estruturados, o que leva analistas a perderem tempo tentando validar algo que simplesmente não existe.
“Recebemos relatórios que parecem legítimos, mas são apenas invenções da IA”, explica Vlad Ionescu, da RunSybil, uma empresa que desenvolve ferramentas de IA para segurança cibernética.
A Mozilla, responsável pelo navegador Firefox, disse que não observou um aumento significativo nesses falsos relatórios, mas reconhece o risco e mantém a triagem manual justamente para evitar rejeições indevidas.
Microsoft e Meta, por outro lado, preferiram não comentar o assunto. Já o Google também não respondeu às perguntas, embora seja uma das gigantes com um dos maiores programas de recompensa por bugs do mercado.
Para lidar com esse desafio, plataformas como HackerOne estão investindo em soluções baseadas em IA para ajudar a identificar os relatórios realmente relevantes.
Recentemente, a empresa lançou o Hai Triage, um sistema que combina agentes de IA e revisão humana para filtrar conteúdo duplicado e destacar ameaças reais.
✨ Curtiu este conteúdo?
O GDiscovery está aqui todos os dias trazendo informações confiáveis e independentes sobre o universo Google - e isso só é possível com o apoio de pessoas como você. 🙌
Com apenas R$ 5 por mês, você ajuda a manter este trabalho no ar e leva informação de qualidade para ainda mais gente!
