Principais destaques
- Novo comando na segurança infantil: Tom Siegel assumiu a direção do Youth AI Safety Institute, criado pela Common Sense Media para testar produtos de IA usados por jovens.
- “Eles não podem avaliar o próprio dever”: Siegel defende avaliações independentes e padrões de segurança para IA, comparáveis aos testes de colisão da indústria automobilística.
- O problema já chegou à escola: pesquisa do instituto aponta que 70% dos adolescentes americanos usam IA para tarefas escolares, com sinais de que parte desse uso pode reduzir o exercício do pensamento crítico.
Tom Siegel passou 15 anos supervisionando segurança e confiança nas plataformas do Google. Agora, decidiu dedicar seu próximo capítulo profissional a uma pergunta incômoda: o que acontece quando a inteligência artificial chega à vida das crianças antes de existirem padrões sólidos para protegê-las?
Em entrevista à Reuters, Siegel afirmou que o setor está repetindo erros cometidos durante a expansão das redes sociais, mas com uma diferença potencialmente importante: a IA pode interagir diretamente com crianças, responder às suas perguntas e influenciar comportamentos de maneira muito mais personalizada.
🧒 A preocupação não é mais hipotética: o Youth AI Safety Institute foi criado justamente para investigar como crianças e adolescentes estão usando essas ferramentas e quais riscos aparecem em situações reais.
O novo instituto quer fazer algo diferente 🔎
Siegel assumiu em 22 de setembro o cargo de primeiro diretor-executivo do Youth AI Safety Institute, iniciativa lançada pela Common Sense Media em maio de 2026.
A proposta é relativamente simples de explicar: testar sistemas de IA antes que seus riscos sejam tratados como um problema depois que milhões de crianças já estiverem usando os produtos.
O instituto pretende:
• criar padrões de segurança específicos para jovens;
• desenvolver avaliações abertas que possam ser usadas pelos próprios desenvolvedores;
• testar produtos de IA de forma independente;
• publicar os resultados para aumentar a transparência.
🚗 A inspiração vem dos carros: Siegel compara o modelo pretendido aos testes de colisão que ajudaram a estabelecer padrões de segurança para automóveis.
A lógica é que empresas de IA não deveriam ser as únicas responsáveis por determinar se seus próprios produtos são seguros.
“Eles não podem avaliar o próprio dever.”
A frase resume a visão de Siegel: avaliações independentes poderiam criar uma espécie de referência externa para comparar riscos entre diferentes sistemas.
E quais seriam os riscos? ⚠️
Siegel citou preocupações que vão de suicídio e psicose à perda gradual de habilidades cognitivas quando crianças passam a terceirizar para a IA tarefas que deveriam exigir raciocínio próprio.
Esse último fenômeno ganhou um nome: cognitive offloading, ou descarregamento cognitivo.
A ideia não é simplesmente que uma criança use IA para encontrar uma informação. O problema aparece quando a ferramenta começa a fazer por ela etapas importantes do processo de pensar, pesquisar, formular hipóteses ou construir uma resposta.
📚 E isso já está acontecendo na escola: uma pesquisa nacional do instituto com 1.017 adolescentes americanos descobriu que 70% usam IA para tarefas escolares. Entre os que usam essas ferramentas, 63% recorrem à IA para obter uma resposta para o trabalho.
Ao mesmo tempo, o levantamento mostra que o comportamento não é uniforme: 77% também usam IA para atividades como brainstorming ou revisão do próprio trabalho.
O problema começa antes da sala de aula
Uma pesquisa anterior da Common Sense Media, com 1.204 crianças de 9 a 17 anos, encontrou que 86% já usam IA, e quase um quarto utiliza essas ferramentas diariamente. Mais de quatro em cada dez disseram que nunca conversaram com os pais ou responsáveis sobre segurança em IA.
Isso cria uma situação curiosa.
A tecnologia está sendo incorporada rapidamente à rotina de crianças e adolescentes, enquanto famílias, escolas e empresas ainda estão tentando estabelecer regras básicas sobre como ela deveria ser utilizada.
A IA chegou primeiro. Os padrões de segurança estão correndo atrás.
Google e OpenAI já responderam 🗣️
Na reportagem da Reuters, o Google afirmou que os pais já contam com controles para restringir o acesso das crianças ao mecanismo de busca e defendeu os recursos de IA como ferramentas úteis para aprendizado e exploração.
A OpenAI, por sua vez, disse utilizar sinais de conta e comportamento, combinados com a idade informada pelo usuário, para identificar menores, além de afirmar que testa e aprimora continuamente esses sistemas. A Anthropic não respondeu ao pedido de comentário da Reuters.
Siegel considera que isso não é suficiente.
Entre suas propostas está uma verificação de idade mais rigorosa para serviços como os da OpenAI e da Anthropic.
Para o Google, ele defende ainda que usuários tenham uma opção para desativar recursos como AI Overviews e AI Mode nas buscas, de maneira semelhante aos controles existentes para determinados tipos de conteúdo.
O instituto já começou a colocar as empresas à prova
O trabalho não está apenas começando.
O Youth AI Safety Institute já publicou avaliações de produtos de IA. Em setembro, classificou a busca com IA da Perplexity como apresentando “risco inaceitável” para crianças após testar 1.200 buscas.
Em julho, o instituto chegou à mesma classificação para os recursos AI Overview e AI Mode do Google Search, considerando que eles ainda não eram seguros, confiáveis e precisos o suficiente para funcionar como resposta padrão para crianças.
A metodologia pretende justamente sair do discurso das empresas e colocar os produtos diante de testes independentes, incluindo cenários específicos envolvendo usuários jovens.
A comparação com as redes sociais 📱
É aqui que o alerta de Siegel ganha outra dimensão.
Durante anos, empresas de redes sociais argumentaram que poderiam administrar os efeitos negativos de suas plataformas por meio de ferramentas internas, moderação e controles parentais.
Hoje, plataformas digitais enfrentam uma enorme pressão regulatória e jurídica relacionada aos impactos sobre crianças e adolescentes.
Siegel teme que a indústria de IA esteja seguindo caminho parecido.
A diferença é que um chatbot não apenas mostra conteúdo para uma criança. Ele conversa com ela.
E essa interação pode envolver educação, aconselhamento, entretenimento, relacionamento e até questões emocionais.
A própria Common Sense Media afirma que sua pesquisa encontrou crianças usando IA não apenas como ferramenta de produtividade, mas também como uma espécie de confidente.
Então o que Siegel quer mudar?
A ideia central não é simplesmente impedir crianças de usar IA.
É criar um padrão independente para dizer quando determinado produto é adequado ou inadequado para determinado público infantil.
1️⃣ Testar: colocar os sistemas diante de situações reais envolvendo jovens.
2️⃣ Medir: transformar os riscos encontrados em avaliações reproduzíveis.
3️⃣ Comparar: permitir que produtos diferentes sejam analisados por critérios semelhantes.
4️⃣ Publicar: tornar os resultados acessíveis para famílias, escolas e empresas.
Isso pode mudar a relação entre tecnologia e segurança infantil: em vez de descobrir os problemas depois de milhões de usuários serem expostos, seria possível identificá-los antes.
E a indústria vai aceitar esse tipo de fiscalização? 🤔
Essa talvez seja a parte mais interessante da história.
O instituto tem apoio de organizações como a Anthropic e a OpenAI Foundation, enquanto pretende avaliar produtos dessas próprias empresas.
Ou seja, a próxima disputa não será apenas sobre o que a IA consegue fazer.
Será também sobre quem tem autoridade para dizer o que ela deveria estar autorizada a fazer quando do outro lado da tela existe uma criança.
Siegel saiu do Google justamente depois de concluir que a indústria de tecnologia estava estagnada na criação de ambientes online seguros. Agora, ele volta ao problema por outro caminho: tentando criar os testes antes que a história da IA com crianças se pareça demais com a história das redes sociais.
