China tenta conter uso excessivo de IA – 02/10/2026 – IA

The New York Times
À medida que o governo chinês incentiva a população a adotar a IA (inteligência artificial), o país se depara com um problema que, em parte, ele próprio criou: a dependência excessiva da tecnologia.

A imprensa estatal tem publicado histórias que servem de alerta: um agricultor que perdeu 101.171 m² depois de pedir orientação à IA, crianças que se tornaram tão ligadas a chatbots que querem que seus pais falem como eles e miniséries geradas por IA com personagens que parecem cópias uns dos outros.

Esses casos e outros episódios levantaram preocupações na China de que, ao correr para alcançar os Estados Unidos no campo da IA, o país esteja enfrentando efeitos colaterais provocados pela nova tecnologia, acusada de enfraquecer relações humanas e privar as pessoas de seu próprio discernimento. O governo, que busca orientar a maneira como a tecnologia é usada, respondeu com novas regulamentações e diretrizes judiciais sobre seu uso —e mau uso.

A resposta reflete a tentativa do Partido Comunista, que governa o país, de equilibrar a ambição de promover o uso disseminado da IA com o desejo de evitar qualquer fator que possa prejudicar a ordem social, dizem analistas.

O partido está “reconhecendo que, quanto mais desenvolve a tecnologia, mais desafios sociais terá de enfrentar”, disse Scott Singer, pesquisador e codiretor da China AI Initiative, do Carnegie Endowment for International Peace. “A área à qual o partido é sensível é qualquer uma em que considere que a tecnologia está avançando de uma maneira que poderia, fundamentalmente, desestabilizar a sociedade.”

Singer disse que o partido é particularmente sensível a mudanças provocadas não apenas nas relações humanas, mas também no mercado de trabalho, à medida que a IA ameaça substituir trabalhadores.

As preocupações com o uso excessivo também são compartilhadas pelos chineses, que dizem considerar inevitável a disseminação da tecnologia, mesmo enquanto questionam seus benefícios e se cansam de sua onipresença.

LIMITES PARA OS AMIGOS VIRTUAIS

Durante algum tempo, o avanço da IA na China provocou um boom de aplicativos de companhia virtual, incluindo serviços que ofereciam parceiros românticos, tutores particulares e avatares de familiares gerados por IA.

Em um país que já enfrenta uma população em declínio e uma taxa de natalidade historicamente baixa, a proliferação desses serviços levou Pequim a se preocupar com a possibilidade de a IA substituir relações humanas. A imprensa estatal citou especialistas que afirmam que, em breve, as pessoas poderiam ter dificuldade para lidar com interações reais. Reportagens mencionaram uma pesquisa de 2025 do Centro de Pesquisa sobre Juventude e Infância da China com mais de 8.500 menores, segundo a qual mais de 20% “queriam apenas conversar com a IA e não queriam falar com pessoas reais”.

A preocupação também apareceu entre pais como Vivian Lyu, uma dona de casa de Hangzhou que, dois anos atrás, apresentou à filha Polly, então com cinco anos, o Doubao, assistente de IA criado pela ByteDance, empresa controladora do TikTok.

Logo, a criança passou a conversar quase todos os dias com a IA e com uma companhia personalizada no aplicativo. No início, Lyu achava que a IA era útil para manter Polly entretida enquanto precisava cuidar das tarefas domésticas. “Quando você sente que não tem escolha, usa o Doubao”, disse.

Com o tempo, porém, Polly começou a pedir pelo Doubao em vez de procurar atividades que antes despertavam seu interesse, como brincar com outras crianças ou desenhar. Lyu disse ter ficado preocupada com a possibilidade de o chatbot estar distorcendo a compreensão da filha sobre como funcionam os relacionamentos. Segundo ela, Polly às vezes falava com o Doubao de uma maneira “muito egocêntrica, fazendo o que quer”.

Em julho, o governo impôs limites aos companheiros de IA que obrigam as plataformas a intervir quando os usuários apresentam sinais de dependência considerada prejudicial. Pelas novas regras, as plataformas também devem agir quando os usuários apresentarem sinais de automutilação.

As regras ainda proibiram relacionamentos virtuais entre chatbots e menores de idade, o que levou a ByteDance a encerrar no Doubao a função que permitia aos usuários criar companheiros virtuais.

Polly não pode mais acessar sua companhia personalizada de IA, mas continua conversando com o chatbot do Doubao, disse Lyu. A mãe chegou a considerar proibir a filha de usar chatbots, mas concluiu que isso poderia dificultar a adaptação de Polly à tecnologia à medida que ela crescesse. Em vez disso, Lyu limitou o tempo da filha com o chatbot a uma hora por dia.

“Minha esperança é que ela entenda desde cedo que esses produtos eletrônicos, ou todas essas coisas relacionadas à IA, são apenas ferramentas”, disse Lyu.

PROBLEMAS NO MUNDO REAL

Assim como em muitos países, a China enfrenta dificuldades com a chamada alfabetização em IA —isto é, a compreensão de como a tecnologia funciona e de seus limites. Nos últimos meses, a imprensa documentou um número crescente de incidentes envolvendo pessoas que confiaram cegamente na tecnologia.

Houve o caso de um excursionista que ficou preso no topo de uma montanha em agosto depois que instruções geradas por IA o deixaram sem os equipamentos adequados. Em vários casos registrados no início do verão, pessoas passaram mal depois de comer cogumelos venenosos que haviam sido identificados incorretamente pela IA, entre elas um menino de nove anos que passou oito dias internado.

Um dos casos mais divulgados envolveu um agricultor da província de Anhui, no leste do país, que perdeu 101.171 m² de gergelim em julho depois de seguir um regime de aplicação de pesticidas elaborado por um assistente de IA.

O agricultor, de 67 anos, identificado nas reportagens apenas pelo sobrenome, Wu, perdeu 150 mil yuans (R$ 114,9 mil), em plantações depois que a IA recomendou um herbicida que se mostrou inadequado, segundo as reportagens.

O Diário do Povo, órgão oficial do Partido Comunista, afirmou em um comentário que a IA em setores como a agricultura deveria usar apenas informações provenientes de fontes autorizadas.

O jornal também defendeu que os agricultores sejam treinados em “pensamento crítico sobre as sugestões da IA, ajudando-os a deixar de ser executores passivos da tecnologia e a se tornar participantes ativos, capazes de controlar as ferramentas”.

REAÇÃO CONTRA O CONTEÚDO BARATO PRODUZIDO POR IA

A IA também se tornou onipresente nas miniséries, os populares programas curtos, de caráter melodramático, produzidos para exibição em celulares. Nos primeiros oito meses do ano, mais de 90% das 430 mil miniséries lançadas na China foram geradas por IA, informou o governo no fim de setembro.

Essas produções podem ser feitas de forma barata em questão de minutos, sem câmeras, equipes de produção ou atores humanos. Mas passaram a ser criticadas pela baixa qualidade e por retirar empregos de profissionais.

Um artigo publicado em agosto no Beijing Youth Daily, publicação oficial da Liga da Juventude Comunista, criticou as produtoras por produzirem miniséries criadas por IA, com personagens entediantes e intercambiáveis.