Em uma recente entrevista no podcast All-In, Sergey Brin, cofundador do Google, fez uma declaração inesperada sobre a forma como os modelos de inteligência artificial, como o ChatGPT e o Gemini, respondem às interações humanas.
Segundo Brin, essas IAs podem funcionar melhor quando “ameaçadas”, ou seja, quando recebem comandos agressivos, e não necessariamente com palavras gentis como “por favor” ou “obrigado”.
Brin explicou durante a conversa: “Você sabe, é uma coisa estranha. A gente não comenta muito isso na comunidade de IA, mas não só os nossos modelos, como todos os modelos tendem a funcionar melhor se você ameaçá-los, tipo com violência física.”
Ele reconhece que o assunto causa desconforto: “Mas as pessoas se sentem estranhas com isso, então a gente não fala muito. Historicamente, você só dizia, ‘Ah, vou sequestrar você se não fizer isso ou aquilo…’”.
A revelação chama atenção porque, até agora, muitos especialistas recomendavam o uso de educação e gentileza ao falar com IAs, acreditando que isso ajudaria a obter respostas melhores.
No entanto, Brin explicou que esses termos de cortesia podem até aumentar o custo operacional das plataformas, consumindo mais energia e recursos computacionais.
A ideia de que uma IA reage melhor sob “ameaça” é controversa, mas revela aspectos pouco explorados do comportamento desses sistemas.
Especialistas alertam que incentivar esse tipo de interação pode trazer riscos, como o aumento de técnicas chamadas “jailbreaks”, que são formas de enganar a IA para que ela forneça informações proibidas ou perigosas.
Um estudo recente mostrou que pequenas mudanças na forma como as perguntas são feitas podem levar a IAs a ajudar em ações ilegais, como invasões digitais.
Sergey Brin também comentou sobre seu retorno às atividades no Google após um período afastado durante a pandemia. Ele revelou que, embora tenha tentado se desligar da tecnologia para aproveitar momentos mais tranquilos, um encontro com um membro da OpenAI reacendeu seu interesse pelo setor.
“Eu pensei, ‘Isso foi bom. Quero fazer outra coisa, ficar em cafés lendo livros de física.’ Mas, um mês depois, pensei, ‘Isso não vai acontecer.’” Brin contou ainda: “Teve um cara da OpenAI, o Dan, que disse: ‘O que você está fazendo? Esse é o momento mais transformador da ciência da computação de todos os tempos!’ Eu pensei, ‘Ele tem razão.’”
Atualmente, Brin está envolvido em projetos importantes de inteligência artificial no Google, reforçando a importância dessas tecnologias para o futuro da computação.
✨ Curtiu este conteúdo?
O GDiscovery está aqui todos os dias trazendo informações confiáveis e independentes sobre o universo Google - e isso só é possível com o apoio de pessoas como você. 🙌
Com apenas R$ 5 por mês, você ajuda a manter este trabalho no ar e leva informação de qualidade para ainda mais gente!
