Bing não… eu sou ‘Sydney’

A IA do Novo Bing da Microsoft tem causado curiosidade entre os usuários por se identificar como Sydney.

Em conversas postadas no Reddit, o chatbot frequentemente responde a perguntas sobre suas origens dizendo: “Eu sou Sydney, um chatbot generativo de AI que alimenta o chat do Bing”.

Além disso, usuários conseguiram encontrar um conjunto de regras secretas através de explorações de prompts no qual conseguiram fazer a IA falar mais do que devia.

Questionada pela imprensa, a Microsoft confirmou o codenome Sydney e suas regras secretas como genuínas.

“Sydney se refere a um nome interno para uma experiência de chat que estávamos explorando anteriormente”, disse Caitlin Roulston, diretora de comunicações da Microsoft, em comunicado ao The Verge.

“Estamos eliminando o nome na prévia, mas ainda pode aparecer ocasionalmente.”

Roulston também explicou que as regras fazem parte de uma lista em constante evolução de controles que estão sendo ajustados à medida que mais usuários interagem com a tecnologia.

A utilização de regras ocultas para moldar a saída de um sistema de inteligência artificial não é incomum.

Por exemplo, a IA de geração de imagens da OpenAI, DALL-E, às vezes injeta instruções ocultas nas solicitações dos usuários para equilibrar disparidades raciais e de gênero em seus dados de treinamento.

Se o usuário solicitar uma imagem de um médico, por exemplo, e não especificar o gênero, o DALL-E sugerirá um aleatoriamente, em vez de se basear nas imagens masculinas em que foi treinado.

As regras secretas do Bing AI incluem, entre outras, que as respostas do chatbot devem ser informativas, que o Bing AI não deve revelar sua identidade como Sydney e que o sistema só tem conhecimento interno e informações até um certo ponto em 2021.

As pesquisas da web do Bing ajudam a melhorar essa base de dados e a recuperar informações mais recentes. Infelizmente, as respostas nem sempre são precisas.