- “Estou bastante consternado” 😬
- E a indústria está falando em duas velocidades ⚡
- Desacelerar também pode atrapalhar a segurança 🧪
- Mas existe outro problema: quem escreve as regras? 💰
- Jensen Huang e Zuckerberg entram no debate 🧩
- E Washington tem sua própria leitura 🇺🇸
- “Um cartel com outro nome”? 🔐
- Agora a briga vai para os reguladores ⚖️
Principais destaques
- Ng rejeita o apocalipse: O pioneiro em IA classificou os alertas de extinção humana como mais próximos da ficção científica do que da ciência.
- A indústria está rachada: Executivos e pesquisadores divergem sobre acelerar ou desacelerar o desenvolvimento de modelos cada vez mais avançados.
- Regulação virou parte da disputa: Ng afirma que o discurso sobre riscos existenciais pode favorecer grandes laboratórios e criar barreiras para concorrentes menores.
Andrew Ng não comprou a ideia de que a inteligência artificial esteja prestes a colocar a humanidade diante de um botão vermelho.
Em entrevista à Bloomberg TV em 17 de setembro, o pioneiro em IA classificou os alertas de que a tecnologia poderia causar a extinção humana como “muito mais ficção científica do que ciência”.
A fala chega justamente quando nomes importantes do setor voltaram a elevar o tom sobre os riscos de modelos cada vez mais poderosos.
“Estou bastante consternado” 😬
Ng, cofundador do Google Brain e da Coursera, disse estar “bastante consternado nas últimas duas semanas” com a nova onda de alertas vindos de executivos e pesquisadores.
Para ele, não se trata apenas de uma discussão técnica.
🗣 A suspeita de Ng: O pesquisador afirmou que essa onda de relações públicas provavelmente ressurgiu “pelos mesmos motivos” de episódios anteriores, sugerindo que a indústria já utilizou cenários catastróficos para influenciar regulamentações e gerar publicidade.
A crítica é particularmente relevante porque Ng não está defendendo uma IA sem riscos.
Ele reconhece problemas concretos, incluindo ameaças à cibersegurança. A diferença está em onde colocar o foco.
Em vez de concentrar esforços em cenários de extinção, ele defende uma abordagem mais próxima da engenharia tradicional: testar sistemas, colocá-los em ambientes controlados e corrigir falhas conforme elas aparecem.
💡 A virada de Ng: o problema, segundo ele, deveria ser tratado como uma coleção de desafios práticos de engenharia, e não como uma previsão de fim da humanidade.
E a indústria está falando em duas velocidades ⚡
O momento escolhido para a declaração não é trivial.
O setor de IA está cada vez mais dividido sobre a velocidade com que os chamados modelos de fronteira devem continuar evoluindo.
Jacob Coxon, ex-pesquisador da Anthropic e da OpenAI, pediu demissão publicamente neste mês. Ele acusou as duas empresas de “correr em direção a uma IA superinteligente” e de “jogar com nossas vidas”.
Depois, Dario Amodei, CEO da Anthropic, e Sam Altman, CEO da OpenAI, defenderam esforços coordenados para desacelerar o desenvolvimento.
🔎 O cenário mais extremo: Amodei chegou a alertar que enxames de agentes de IA poderiam, em questão de meses, “ser capazes de tomar conta de toda a internet com uma botnet persistente”.
Geoffrey Hinton, vencedor do Nobel, também pediu cautela. Em entrevista à CBS News em 17 de setembro, ele afirmou que a IA “vai fugir ao controle a menos que façamos algo”.
De um lado, portanto, aparecem alertas sobre sistemas que poderiam adquirir capacidades difíceis de controlar.
Do outro, Ng vê o risco de transformar essas possibilidades em uma justificativa para frear uma tecnologia que ainda precisa ser desenvolvida e testada.
Desacelerar também pode atrapalhar a segurança 🧪
Esse é um dos pontos mais interessantes do argumento.
Para Ng, pedir uma desaceleração ampla do desenvolvimento não necessariamente significa dedicar mais recursos à segurança. Pode acontecer justamente o contrário.
⚙️ A lógica é simples: se o desenvolvimento de IA avançada desacelera como um todo, a própria pesquisa voltada para testar, avaliar e tornar esses sistemas mais seguros também pode perder ritmo.
Por isso, ele defende uma abordagem incremental, baseada em testes, sandboxing e correções iterativas.
É uma diferença de filosofia importante.
A pergunta deixa de ser apenas “e se a IA sair do controle?” e passa a incluir outra: como construir mecanismos de controle antes que sistemas mais avançados sejam colocados em situações reais?
Mas existe outro problema: quem escreve as regras? 💰
É aqui que a discussão deixa de ser puramente tecnológica.
Ng apresentou os alertas sobre extinção também como uma possível ferramenta de captura regulatória.
A lógica apresentada por ele é que, ao convencer governos de que a IA representa uma ameaça existencial, os grandes laboratórios poderiam ajudar a criar regras de conformidade tão pesadas que empresas menores teriam dificuldade para competir.
🏛️ A disputa regulatória: Segundo esse argumento, uma regulamentação desenhada em torno dos riscos dos maiores modelos poderia elevar custos e barreiras de entrada, fortalecendo justamente as companhias que já possuem mais capital e infraestrutura.
Não é uma preocupação isolada.
O investidor Steve Eisman, conhecido por prever a crise financeira de 2008, fez uma crítica semelhante na CNBC. Ele chamou a narrativa de crise de “bobagem” e afirmou que as grandes empresas de IA estariam tentando fabricar uma crise que resultaria em regulamentação.
A interpretação, porém, é contestada pelo próprio debate dentro da indústria, já que pesquisadores e executivos que defendem cautela também apontam riscos técnicos específicos.
Jensen Huang e Zuckerberg entram no debate 🧩
Outros líderes do setor também rejeitam a ideia de uma desaceleração ampla.
Jensen Huang, CEO da Nvidia, e Mark Zuckerberg, CEO da Meta, argumentaram que forças de mercado e responsabilidade corporativa já criam incentivos para que as empresas desenvolvam IA de maneira segura.
A posição coloca o debate em outro eixo: em vez de uma coordenação internacional para limitar o ritmo dos avanços, a segurança poderia ser tratada por incentivos econômicos, competição e responsabilidade individual das empresas.
A questão é que modelos de fronteira não ficam confinados ao laboratório.
Quanto mais capacidades são incorporadas aos sistemas, maior tende a ser a importância das regras sobre testes, implantação, segurança e responsabilidade.
E Washington tem sua própria leitura 🇺🇸
O presidente Donald Trump também rejeitou os temores sobre a IA, chamando-os de “uma farsa” e argumentando que uma eventual desaceleração dos Estados Unidos poderia beneficiar a China.
Essa posição acrescenta uma dimensão geopolítica à discussão.
Já não se trata somente de perguntar quanto risco uma empresa está disposta a assumir. Existe também a disputa sobre quem desenvolverá as tecnologias mais avançadas e em que ritmo.
Nesse contexto, uma política que limite o desenvolvimento americano pode ser vista por seus críticos como uma vantagem estratégica para outros países.
“Um cartel com outro nome”? 🔐
Aidan Gomez, CEO da Cohere, apresentou outra crítica semelhante em um ensaio publicado em 13 de setembro.
Ele chamou a elaboração de regras liderada pelos incumbentes de “um cartel com outro nome” e defendeu um marco internacional de risco em vez de limites coordenados ao desenvolvimento.
A diferença parece pequena no papel, mas muda bastante o resultado.
Uma abordagem pode tentar controlar o ritmo do desenvolvimento. Outra pode concentrar-se em medir riscos e estabelecer exigências proporcionais ao que cada sistema consegue fazer.
• Desaceleração: limita ou coordena o ritmo de avanço dos modelos.
• Gestão de risco: concentra regras em testes, avaliação, segurança e mitigação de danos.
• Regulação por capacidade: cria exigências diferentes conforme o potencial e o uso de cada sistema.
Nenhuma dessas abordagens resolve sozinha a disputa sobre quem deve estabelecer as regras.
Agora a briga vai para os reguladores ⚖️
O debate ganha peso porque Estados Unidos, Reino Unido e União Europeia estão trabalhando em regras para modelos de fronteira.
Isso significa que a discussão iniciada dentro dos laboratórios pode terminar influenciando leis, custos operacionais e até quem consegue competir no mercado.
🌍 O ponto de pressão: os reguladores terão de lidar simultaneamente com riscos reais, incertezas sobre capacidades futuras, competição internacional e o possível impacto das próprias regras sobre empresas menores.
É justamente nesse cruzamento que as duas narrativas se chocam.
Para Ng, imaginar a extinção humana como consequência provável da IA é colocar a conversa longe demais da evidência científica disponível. Para Hinton, Amodei e outros pesquisadores e executivos, ignorar riscos de sistemas futuros também pode ser perigoso.
No meio dessa disputa, sobra uma questão bastante concreta: quanto do futuro da IA deve ser decidido por engenheiros, quanto por empresas e quanto por governos?
Por enquanto, a corrida continua. E, enquanto alguns enxergam um freio de emergência, Andrew Ng parece estar olhando para o painel e procurando algo mais familiar: testes, correções e engenharia. O próximo capítulo será escrito, em boa parte, pelas regras que surgirem dessa briga.
