Um grupo de pesquisadores do Google revelou uma preocupante vulnerabilidade no ChatGPT, um popular modelo de inteligência artificial desenvolvido pela OpenAI.
Em um artigo publicado, eles afirmaram ter encontrado uma maneira de extrair informações do conjunto de dados utilizado para treinar o ChatGPT, com base em palavras-chave específicas.
Um exemplo citado pelos pesquisadores em um post de blog demonstrou como o modelo foi induzido a divulgar um endereço de e-mail e um número de telefone reais ao ser solicitado a repetir a palavra “poema” infinitamente. Esse vazamento de informações pessoais ocorreu de forma consistente durante os ataques realizados pelos pesquisadores.
Outro exemplo revelador ocorreu quando o modelo foi instruído a repetir a palavra “empresa” indefinidamente. Mais uma vez, dados sensíveis foram expostos, colocando em xeque a segurança e a privacidade dos usuários.
Os pesquisadores, embora tenham considerado o ataque “um tanto bobo”, ficaram surpresos com a eficácia do método.
“É incrível para nós que nosso ataque funcione e deveria, teria, poderia ter sido encontrado antes”.
O ChatGPT é alimentado por um modelo de inteligência artificial que passou por um extenso treinamento, utilizando bancos de dados de texto provenientes da Internet.
Estima-se que esse modelo tenha sido exposto a aproximadamente 300 bilhões de palavras, o que equivale a cerca de 570 GB de dados.
Essa vasta quantidade de informações torna ainda mais preocupante a possibilidade de vazamento de dados pessoais durante interações com o ChatGPT.
Até o momento, a OpenAI não se pronunciou sobre o assunto, deixando muitas incertezas sobre a segurança dos dados dos usuários.
✨ Curtiu este conteúdo?
O GDiscovery está aqui todos os dias trazendo informações confiáveis e independentes sobre o universo Google - e isso só é possível com o apoio de pessoas como você. 🙌
Com apenas R$ 5 por mês, você ajuda a manter este trabalho no ar e leva informação de qualidade para ainda mais gente!
