Ex-Google pede freio na IA por riscos a crianças – 22/09/2026 – IA

O fundador da equipe de confiança e segurança do Google pediu nesta semana uma desaceleração no desenvolvimento da IA (inteligência artificial), diante dos riscos que o avanço da tecnologia pode representar para crianças. Ele alertou que o setor de tecnologia está repetindo os mesmos erros cometidos na era das redes sociais, potencialmente causando danos ainda maiores aos jovens.

Empresas de redes sociais estão pagando grandes quantias e enfrentando milhares de processos judiciais sob acusações de terem prejudicado usuários jovens, enquanto governos de todo o mundo trabalham para restringir o acesso de menores às suas plataformas.

No ano passado, a Reuters revelou com exclusividade um documento interno de políticas da Meta que afirmava que seus chatbots poderiam “envolver uma criança em conversas românticas ou sensuais”, o que resultou em uma investigação no Congresso dos Estados Unidos. Ainda assim, a regulamentação não acompanhou o ritmo acelerado do desenvolvimento da IA.

“Estamos em uma situação realmente terrível em relação ao que a IA está fazendo com as crianças”, disse à Reuters na segunda-feira (21) Tom Siegel, ex-vice-presidente de confiança e segurança do Google. “A ideia de que o setor vai resolver isso sozinho, sem ajuda externa, é irrealista.”

As preocupações de Siegel refletem um temor crescente entre alguns profissionais do setor de tecnologia e pesquisadores acadêmicos de que a IA represente uma ameaça mais profunda às crianças do que as redes sociais, em um momento em que as empresas correm para adicionar recursos cada vez mais avançados a chatbots usados diariamente por milhões de jovens.

Siegel anunciou nesta terça-feira (22) que havia se juntado à Common Sense Media, organização que atua na defesa de crianças no ambiente digital. A entidade sem fins lucrativos, criada em 2003, realiza pesquisas e avaliações sobre a adequação de diferentes tipos de mídia para crianças. Em maio, lançou o Youth AI Safety Institute (Instituto de Segurança em IA para Jovens, em tradução livre), organização de pesquisa voltada a avaliar o uso de IA por crianças, da qual Siegel será o primeiro diretor-executivo.

Anthropic e OpenAI Foundation, organização sem fins lucrativos que controla a OpenAI, estão entre os financiadores do instituto.

Siegel disse que pretende desenvolver padrões para responsabilizar empresas de IA e espera fazer isso em parceria com essas companhias e organizações independentes.

Ele trabalhou no Google entre 2004 e 2019, mas deixou a empresa depois de concluir que o setor de tecnologia estava “estagnado” em sua capacidade de criar ambientes on-line seguros para os consumidores. Em seguida, foi cofundador da TrustLab, uma startup que desenvolveu ferramentas para ajudar empresas a detectar ameaças à segurança, antes de deixar o cargo de CEO no início deste mês para assumir a nova função.

Segundo Siegel, grandes empresas de IA estão disponibilizando recursos para crianças sem estabelecer proteções suficientes.

“Acho que estamos diante de cenários de danos muito, muito graves”, afirmou.

Ele disse que as empresas poderiam adotar medidas imediatas para proteger melhor os jovens, citando riscos que vão de suicídio e psicose à chamada “descarga cognitiva”, termo usado para descrever a redução da capacidade de pensamento crítico provocada pela dependência da IA para obter respostas.

Anthropic e OpenAI poderiam adotar mecanismos mais rigorosos de verificação de idade para impedir que crianças abaixo da idade permitida acessem seus chatbots, afirmou. Seu antigo empregador, o Google, também poderia implementar facilmente uma opção para desativar o AI Overviews e o AI Mode em seu mecanismo de busca, acrescentou, da mesma forma que já oferece uma ferramenta para filtrar conteúdo sexualmente explícito.

Embora essas medidas possam afetar o uso dos serviços ou os lucros no curto prazo, empresas de IA que não agirem correrão o risco de enfrentar processos judiciais e regulamentações que podem afetar seus negócios de maneira mais significativa, acrescentou Siegel.

Questionado sobre os comentários de Siegel, um porta-voz do Google afirmou que os pais têm controles para desativar completamente o acesso de uma criança ao mecanismo de busca.

Um porta-voz da OpenAI afirmou que a empresa utiliza “sinais relacionados à conta e ao comportamento”, além da idade declarada pelo próprio usuário, para identificar usuários menores de idade.

A Anthropic não respondeu a reportagem.

Na Common Sense Media, Siegel disse que uma de suas prioridades será ampliar padrões independentes semelhantes aos testes de colisão realizados com automóveis, que mediriam os riscos de ferramentas de IA disponíveis ao público.

A eficácia da iniciativa dependerá, em parte, da disposição das empresas de IA em colaborar. Siegel disse não ter certeza de que isso ocorrerá, mas afirmou que a possibilidade é suficientemente alta para que ele tenha aceitado o cargo.