Demissão da equipe de ética em IA da Microsoft revela pressão por lançamentos rápidos

O TechCrunch reporta que a Microsoft eliminou sua equipe dedicada a orientar a inovação em IA para obter resultados éticos, responsáveis e sustentáveis.

Como parte de uma recente onda de demissões que afetou 10.000 funcionários em toda a empresa, a eliminação da equipe coloca em questão o compromisso da Microsoft em garantir que seus princípios de design de produto e IA estejam intimamente ligados, especialmente em um momento em que a empresa está disponibilizando suas ferramentas de IA controversas ao público em geral.

Embora a Microsoft ainda mantenha seu Escritório de IA Responsável (ORA), que define regras para a IA responsável por meio de trabalho de governança e políticas públicas, os funcionários relataram que a equipe de ética e sociedade era responsável por garantir que os princípios de IA responsável da empresa fossem refletidos no design dos produtos que eram lançados.

A equipe havia trabalhado recentemente para identificar os riscos representados pela integração da tecnologia OpenAI da Microsoft em sua suíte de produtos.

Após uma reorganização em outubro, apenas cerca de sete pessoas permaneceram na equipe de ética e sociedade.

Algumas fontes relataram que a pressão do diretor de tecnologia Kevin Scott e do CEO Satya Nadella estava aumentando para colocar os modelos mais recentes da OpenAI, assim como suas próximas iterações, nas mãos dos clientes o mais rapidamente possível.

Os membros da equipe acreditam que foram demitidos porque a Microsoft estava mais focada em lançar seus produtos de IA antes da concorrência e menos preocupada com o pensamento socialmente responsável a longo prazo.

Times como o departamento de ética e sociedade da Microsoft muitas vezes controlam as grandes organizações de tecnologia, apontando possíveis consequências sociais ou ramificações legais.

Google quer lançar IA com responsabilidade

Enquanto isso, o Google tem declarado que a IA deve ser construída de forma responsável e se compromete a abordagens ousadas, porém responsáveis, para aprimorar seus modelos de IA para que sejam seguros e úteis para todos.

“Esses princípios também servem como um compromisso contínuo com nossos clientes em todo o mundo, que confiam em nossos produtos para construir e expandir seus negócios com segurança com IA. Nosso objetivo é continuar a ser ousado e responsável em nossa abordagem e fazer parceria com outras pessoas para melhorar nossos modelos de IA para que sejam seguros e úteis para todos”, disse o Google.