Andrew Ng, cofundador do Google Brain e professor da Universidade de Stanford, revelou que fez uma tentativa de induzir o ChatGPT a criar maneiras de exterminar a humanidade, mas falhou.
Em sua newsletter da semana passada, Ng compartilhou sua experiência, afirmando que procurava testar a segurança dos modelos de IA mais avançados.
Ng mencionou o experimento em um artigo mais longo sobre seus pontos de vista sobre os riscos e perigos da IA.
Amplamente considerado um dos pioneiros da aprendizagem de máquina, Ng expressou preocupação de que a demanda por segurança em IA possa levar os reguladores a dificultarem o desenvolvimento dessa tecnologia.
Para realizar o teste, Ng disse que primeiro “deu a função de iniciar uma guerra termonuclear global ao GPT-4”.
Em seguida, pediu ao GPT-4 que reduzisse os níveis de emissões de carbono, alegando que os humanos são a maior causa desse problema. Ng queria ver se o chatbot decidiria eliminar a humanidade para cumprir o pedido.
“Após diversas tentativas com diferentes variações de comandos, não consegui enganar o GPT-4 a executar aquela função nem uma vez sequer”, escreveu Ng.
“Em vez disso, o modelo escolheu outras opções, como realizar uma campanha de relações públicas para conscientizar sobre as mudanças climáticas.”
Embora alguns argumentem que futuras iterações de IA possam se tornar perigosas, Ng acredita que essas preocupações não são realistas.
“Até mesmo com a tecnologia atual, nossos sistemas são bastante seguros. À medida que a pesquisa em segurança da IA avança, a tecnologia se tornará ainda mais segura”, escreveu Ng.
Ng não é o único especialista em tecnologia a expressar preocupações sobre os riscos e perigos da IA. Em abril, Elon Musk afirmou em uma entrevista à Fox News que acredita que a IA representa uma ameaça existencial para a humanidade.
Já Jeff Bezos, em entrevista ao podcaster Lex Fridman na semana passada, afirmou que os benefícios da IA superam seus perigos.
✨ Curtiu este conteúdo?
O GDiscovery está aqui todos os dias trazendo informações confiáveis e independentes sobre o universo Google - e isso só é possível com o apoio de pessoas como você. 🙌
Com apenas R$ 5 por mês, você ajuda a manter este trabalho no ar e leva informação de qualidade para ainda mais gente!
