Bloomberg: funcionários do Google afirmam que Bard é ‘pior do que inútil’

Uma nova matéria divulgada pela Bloomberg revela que a pressa da Google em lançar sua IA Bard pode ter levado a empresa a ignorar questões éticas importantes.

O relatório cita 18 funcionários da Google que tiveram interação com o Bard e compartilha resultados de documentação interna relacionada ao assunto.

Segundo o relatório, o Bard é considerado “pior do que inútil” e recebeu feedbacks fortes, como “cringe-worthy” e “um mentiroso patológico”.

Alguns funcionários compartilharam experiências com a IA antes do seu lançamento, como um caso em que o Bard foi solicitado a dar instruções sobre como pousar um avião, mas “regularmente” dava instruções que levariam a uma queda.

Outra experiência envolveu uma pergunta sobre instruções de mergulho, em que as instruções dadas “provavelmente resultariam em ferimentos graves ou morte”.

O relatório também revela que as equipes da Google que trabalham em ética de IA foram instruídas a não atrapalhar ou tentar matar qualquer uma das ferramentas de IA generativas em desenvolvimento.

Apesar disso, o produto voltado para o usuário do Bard ainda diz abertamente que pode exibir informações “inexatas” em contraste com outros concorrentes.

O Google afirma que continua investindo em equipes que trabalham na aplicação de seus Princípios de IA em sua tecnologia.

Ainda assim, a líder de governança de IA da Google, Jen Gennai, teria anulado uma avaliação de risco que descobriu que o Bard não estava pronto para o lançamento, embora Gennai tenha dito que não foi uma decisão exclusivamente dela.

O relatório deixa claro que o Google enfrenta desafios éticos significativos à medida que continua a desenvolver suas tecnologias de IA.

A empresa terá que trabalhar para garantir que essas tecnologias sejam seguras e confiáveis, mesmo em meio a pressões para lançá-las rapidamente no mercado.