O Google Cloud anunciou o AI Protection, um novo conjunto de ferramentas de segurança projetado para proteger sistemas de inteligência artificial contra ameaças e vulnerabilidades.
A novidade permite que empresas tenham uma visão centralizada dos riscos e possam agir antes que problemas aconteçam, independentemente do modelo de IA ou plataforma utilizada.
Com o crescimento acelerado da inteligência artificial, aumenta também a preocupação com segurança. Modelos de IA podem ser alvo de ataques, vazamento de dados e até manipulação maliciosa.
lidar com esses desafios, o AI Protection será integrado ao Security Command Center (SCC), ferramenta que já monitora riscos na nuvem do Google.
Entre os principais recursos, estão o AI Inventory Discovery, que identifica possíveis vulnerabilidades em sistemas de IA, o AI Asset Security, que adiciona camadas extras de proteção, e o Threat Management, que detecta e responde a ameaças específicas da IA.
Outro destaque é o Model Armor, uma solução desenvolvida para proteger modelos de IA contra ataques como a injeção de comandos maliciosos (prompt injection) e o jailbreak – técnica usada para burlar restrições de segurança.
Além disso, o Google Cloud anunciou aprimoramentos no Sensitive Data Protection (SDP), que agora identifica automaticamente informações sensíveis em bases de dados de IA, como as utilizadas no Vertex AI.
O Google também afirmou que continuará aprimorando a segurança de sistemas de IA em parceria com a empresa de cibersegurança Mandiant.
Novos detectores serão adicionados ao AI Protection em breve, ajudando a identificar ameaças emergentes, como tentativas de manipulação de modelos de IA.
✨ Curtiu este conteúdo?
O GDiscovery está aqui todos os dias trazendo informações confiáveis e independentes sobre o universo Google - e isso só é possível com o apoio de pessoas como você. 🙌
Com apenas R$ 5 por mês, você ajuda a manter este trabalho no ar e leva informação de qualidade para ainda mais gente!
