Pesquisadores de segurança da empresa de gerenciamento de riscos cibernéticos Vulcan.io publicaram uma prova de conceito de como hackers podem usar o ChatGPT 3.5 para espalhar códigos maliciosos de repositórios confiáveis.
A pesquisa chama a atenção para os riscos de segurança inerentes ao confiar nas sugestões do ChatGPT para soluções de codificação.
A metodologia utilizada pelos pesquisadores consistiu em coletar perguntas frequentes sobre codificação no fórum de perguntas e respostas Stack Overflow.
Eles escolheram 40 assuntos de codificação e usaram as primeiras 100 perguntas para cada um dos 40 assuntos. As perguntas foram feitas no contexto do Node.js e Python.
Em seguida, os pesquisadores filtraram as perguntas para aquelas que continham pacotes de programação na consulta.
Eles usaram o ChatGPT para replicar a abordagem de um atacante para obter o maior número possível de recomendações de pacotes inexistentes no menor tempo possível.
Eles escanearam as respostas para encontrar recomendações de pacotes de código que não existiam.
Os resultados da pesquisa mostraram que, das 201 perguntas sobre Node.js, o ChatGPT recomendou 40 pacotes que não existiam.
Isso significa que 20% das respostas do ChatGPT continham pacotes de código não reais. Para as perguntas em Python, mais de um terço das respostas continha pacotes de código alucinados, totalizando 80 pacotes que não existiam.
Os pesquisadores destacam a importância de verificar as recomendações do ChatGPT antes de usá-las. Eles recomendam verificar informações como a data de criação do pacote, quantos downloads foram feitos e a falta de comentários positivos e notas anexas à biblioteca.
A pesquisa mostra que é importante verificar a veracidade das recomendações do ChatGPT antes de usá-las, especialmente no campo da codificação.
✨ Curtiu este conteúdo?
O GDiscovery está aqui todos os dias trazendo informações confiáveis e independentes sobre o universo Google - e isso só é possível com o apoio de pessoas como você. 🙌
Com apenas R$ 5 por mês, você ajuda a manter este trabalho no ar e leva informação de qualidade para ainda mais gente!
