Principais destaques
- Saída por discordância: Robert O’Callahan deixou o Google DeepMind por considerar irresponsável acelerar a busca por superinteligência no ritmo atual.
- Chips para IA: O pesquisador trabalhava em uma nova geração de chips destinada a tornar sistemas de inteligência artificial mais rápidos e baratos.
- Não é um caso isolado: A saída acontece após outras demissões de pesquisadores de IA que também manifestaram preocupações sobre segurança e controle da tecnologia.
Robert O’Callahan decidiu deixar o Google DeepMind justamente quando seu trabalho estava ajudando a acelerar a tecnologia que ele passou a considerar rápida demais.
Pesquisador baseado na Nova Zelândia, O’Callahan anunciou sua demissão na sexta-feira e afirmou que a busca por uma superinteligência artificial em um futuro próximo é, em sua avaliação, “inerentemente irresponsável”.
A decisão chama atenção porque ele não estava simplesmente observando o avanço da IA de fora. Sua equipe trabalhava diretamente no desenvolvimento de uma nova geração de chips capazes de tornar os sistemas de inteligência artificial mais rápidos e baratos.
O problema começou a ser o próprio trabalho 🧩
Em uma carta publicada em seu blog pessoal, O’Callahan afirmou que passou a ter dificuldade para justificar sua participação nesse processo.
“Acredito firmemente que o progresso da IA está avançando rápido demais atualmente.”
O pesquisador também disse ter dúvidas sobre o destino desse desenvolvimento. Segundo ele, preocupações foram levantadas internamente, mas não produziram mudanças suficientes para que continuasse convencido de que permanecer na empresa era a melhor maneira de agir.
⚙️ A ironia da história: quanto mais eficiente o hardware, maior pode ser a capacidade de desenvolver e operar modelos avançados de IA. Para O’Callahan, essa aceleração deixou de ser apenas um desafio técnico e passou a representar uma questão de responsabilidade.
Ele não está dizendo que o desastre é inevitável
O discurso de O’Callahan, porém, tem uma nuance importante.
Ele não afirma estar convencido de que uma superinteligência artificial inevitavelmente provocará o colapso da humanidade. Em seu blog, escreveu que não considera a possibilidade de um desastre causado por ASI como tendo 100% de probabilidade.
Mas considera o risco suficientemente real e incerto para justificar preocupação.
“O risco é real, embora incerto — e isso por si só já é muito alarmante.”
Essa distinção importa. O argumento apresentado por O’Callahan não depende de afirmar que um cenário catastrófico certamente acontecerá, mas de considerar que a possibilidade de um resultado extremo merece ser levada em conta antes que a tecnologia avance ainda mais.
Uma nova onda de saídas no DeepMind 🚪
A demissão também acontece em um momento de outras mudanças dentro do setor.
Segundo o material fornecido, O’Callahan é pelo menos o terceiro funcionário do Google DeepMind a deixar a empresa neste mês em meio a preocupações relacionadas à segurança da IA.
No início de setembro, o ex-engenheiro de pesquisa do DeepMind Bilal Chughtai afirmou ter deixado a empresa por temer que a inteligência artificial pudesse representar uma ameaça existencial à humanidade.
Outro funcionário, Josh Engels, que trabalhava na equipe de segurança de AGI do laboratório, também saiu.
As circunstâncias e motivações de cada saída são diferentes, portanto não significa que todos estejam defendendo exatamente a mesma posição. O ponto em comum apresentado nas declarações é a preocupação com a velocidade do desenvolvimento da IA avançada.
E a Anthropic também aparece nessa história
O movimento não está restrito ao Google.
Jacob Coxon deixou a Anthropic no início de setembro e manifestou preocupação de que a indústria pudesse estar desenvolvendo uma tecnologia que, no futuro, não conseguiria controlar.
A NBC News também relatou o desconforto de pesquisadores com a forma como os riscos associados à IA avançada estão sendo administrados.
🔎 O contexto maior: essas saídas mostram uma divisão que vai além da tradicional disputa entre empresas de tecnologia. Parte dos próprios pesquisadores envolvidos no desenvolvimento da IA está questionando se o ritmo de avanço deveria continuar.
Do código para os chips
O histórico de O’Callahan ajuda a entender por que sua saída chama tanta atenção.
Ele é conhecido por seu trabalho como engenheiro da Mozilla e pela criação da ferramenta de depuração rr. No Google DeepMind, sua atuação estava ligada à infraestrutura necessária para aumentar a capacidade computacional disponível para sistemas de IA.
Isso coloca a discussão em uma camada diferente.
Não se trata apenas de perguntar se um determinado modelo é seguro. A questão passa também pela infraestrutura que permite criar modelos maiores, executar mais experimentos e reduzir o custo de utilização dessas tecnologias.
Quanto mais eficiente for essa infraestrutura, menor pode ser a barreira para ampliar a capacidade dos sistemas.
“Fechar os olhos” não era uma opção para ele ✝️
A decisão também teve uma dimensão pessoal.
O’Callahan escreveu que ignorar os impactos de seu trabalho não seria compatível com sua fé cristã. Segundo ele, “fechar os olhos” para as consequências não seria algo que um seguidor de Jesus faria.
A referência religiosa aparece como parte da justificativa individual para a decisão, ao lado das preocupações técnicas e de segurança.
Ele também acredita que pode exercer maior influência fora do Google DeepMind do que permanecendo na empresa.
Uma saída planejada, não um protesto de última hora 🎒
Há ainda uma curiosidade na cronologia.
O’Callahan afirmou que sua saída não foi provocada pela sequência recente de demissões de pesquisadores preocupados com segurança de IA. Segundo ele, a decisão já estava planejada havia algum tempo.
O pesquisador pretendia deixar a empresa antes de uma viagem de mochilão de dez dias que começaria na segunda-feira.
Ou seja, embora sua demissão esteja sendo interpretada dentro de uma sequência maior de saídas, ele próprio afirma que sua decisão não nasceu dessa onda recente.
O debate fica cada vez mais difícil de ignorar
O Google não comentou a saída.
O caso de O’Callahan, portanto, não estabelece por si só que exista uma crise de segurança dentro do Google DeepMind. Também não demonstra que o desenvolvimento da IA esteja necessariamente caminhando para um desastre.
Mas coloca uma pergunta incômoda no centro da corrida tecnológica: quando acelerar a inteligência artificial deixa de ser apenas uma conquista de engenharia e passa a exigir uma discussão sobre até onde essa aceleração deveria ir?
Para um pesquisador que trabalhava justamente em chips destinados a tornar a IA mais rápida e barata, a resposta acabou sendo pessoal: sair.
E, enquanto ele prepara a mochila para alguns dias longe dos laboratórios, as empresas continuam construindo máquinas cada vez mais capazes. A discussão sobre quem deve decidir o ritmo desse avanço provavelmente está apenas começando.
Tudo caminha para o fim da humanidade.