O CEO do Google, Sundar Pichai, reprovou os erros de diversidade da IA Gemini como “completamente inaceitáveis” em um memorando interno obtido pelo The Verge.
Ele reconheceu que as imagens e textos historicamente imprecisos gerados pelo modelo “ofenderam nossos usuários e mostraram preconceito”.
A semana passada, o Google pausou a capacidade do Gemini de gerar imagens após a descoberta generalizada de que o modelo gerava soldados alemães nazistas racialmente diversos, pais fundadores dos EUA não brancos e até mesmo retratava incorretamente as raças dos próprios cofundadores do Google.
Embora o Google tenha se desculpado por “errar o alvo” e dito que está trabalhando para reativar a geração de imagens nas próximas semanas, o memorando de terça-feira é a primeira vez que o CEO aborda amplamente a controvérsia.
No memorando, Pichai afirma que a empresa “tem trabalhado 24 horas por dia” para resolver “respostas problemáticas de texto e imagem no aplicativo Gemini”. Ele não afirma que o Google resolveu o problema.
“Nenhuma IA é perfeita, especialmente neste estágio emergente do desenvolvimento da indústria, mas sabemos que a meta é alta para nós e continuaremos trabalhando por quanto tempo for necessário”, escreve ele.
Pichai enfatiza a missão do Google de “organizar as informações do mundo e torná-las universalmente acessíveis e úteis”. Ele afirma que essa abordagem deve ser aplicada a todos os produtos, incluindo os produtos de IA emergentes.
O CEO do Google conclui o memorando delineando um conjunto de ações para resolver o problema, incluindo mudanças estruturais, diretrizes de produtos atualizadas, processos de lançamento aprimorados, avaliações robustas e recomendações técnicas.
Ele também reconhece os avanços fundamentais nos modelos subjacentes do Google e sua expertise em pesquisa como trampolim para a onda de IA.
Leia o memorando completo de Sundar Pichai aos funcionários do Google abaixo (tradução aberta):
Oi pessoal
Quero abordar os problemas recentes com respostas problemáticas de texto e imagem no aplicativo Gemini (anteriormente Bard). Eu sei que algumas de suas respostas ofenderam nossos usuários e mostraram preconceito – para ser claro, isso é completamente inaceitável e erramos.
Nossas equipes têm trabalhado 24 horas por dia para resolver esses problemas. Já estamos vendo uma melhoria substancial em uma ampla variedade de prompts. Nenhuma IA é perfeita, especialmente nesta fase emergente do desenvolvimento da indústria, mas sabemos que o padrão é alto para nós e continuaremos assim pelo tempo que for necessário. E revisaremos o que aconteceu e garantiremos que consertaremos em grande escala.
A nossa missão de organizar a informação mundial e torná-la universalmente acessível e útil é sacrossanta. Sempre procuramos fornecer aos usuários informações úteis, precisas e imparciais em nossos produtos. É por isso que as pessoas confiam neles. Esta deve ser a nossa abordagem para todos os nossos produtos, incluindo os nossos produtos emergentes de IA.
Estaremos conduzindo um conjunto claro de ações, incluindo mudanças estruturais, diretrizes de produtos atualizadas, processos de lançamento aprimorados, avaliações robustas e equipes vermelhas, além de recomendações técnicas. Estamos analisando tudo isso e faremos as alterações necessárias.
Mesmo enquanto aprendemos com o que deu errado aqui, também devemos aproveitar os anúncios técnicos e de produtos que fizemos em IA nas últimas semanas. Isso inclui alguns avanços fundamentais nos nossos modelos subjacentes, por exemplo, a nossa descoberta da janela de contexto longo de 1 milhão e os nossos modelos abertos, ambos bem recebidos.
Sabemos o que é necessário para criar excelentes produtos que são utilizados e apreciados por milhares de milhões de pessoas e empresas e, com a nossa infraestrutura e experiência em investigação, temos um trampolim incrível para a onda IA. Vamos nos concentrar no que é mais importante: criar produtos úteis que mereçam a confiança de nossos usuários.
✨ Curtiu este conteúdo?
O GDiscovery está aqui todos os dias trazendo informações confiáveis e independentes sobre o universo Google - e isso só é possível com o apoio de pessoas como você. 🙌
Com apenas R$ 5 por mês, você ajuda a manter este trabalho no ar e leva informação de qualidade para ainda mais gente!
