Órgão de inteligência da China vê avanço da IA como risco à segurança política e social

O órgão de inteligência da China alertou que a IA (inteligência artificial) pode representar um risco para a segurança política e social do país, sinalizando uma preocupação crescente em Pequim de que o rápido avanço da tecnologia possa ser explorado contra a China.

Em sua primeira manifestação pública sobre inteligência artificial, o Ministério da Segurança do Estado detalhou, no domingo (13), as ameaças apresentadas pela tecnologia, incluindo riscos às defesas cibernéticas do país, a dados sensíveis e ao aparato militar.

“Forças hostis e pessoas com segundas intenções estão abusando de tecnologias de IA generativa, como áudios e vídeos deepfake, textos e imagens gerados por IA e ‘exércitos inteligentes de trolls’, para fabricar rumores políticos, disseminar informações nocivas e incitar sentimentos de divisão de forma barata e em grande escala”, disse Chen Yixin, ministro da Segurança do Estado.

“Essas atividades constituem um ataque à opinião pública e uma guerra cognitiva contra a China, ameaçando diretamente nossa segurança política, institucional e ideológica”, acrescentou.

A declaração representa uma ampliação significativa da discussão pública de Pequim sobre a segurança da inteligência artificial. Normalmente, o debate é conduzido pelo principal órgão regulador do setor, a Administração do Ciberespaço da China, e concentra-se em questões regulatórias e técnicas.

A manifestação ocorre enquanto líderes de empresas de tecnologia dos Estados Unidos demonstram preocupação com a velocidade do desenvolvimento de sistemas avançados de IA, após alertas cada vez mais contundentes de pesquisadores sobre a possibilidade de consequências catastróficas, incluindo um evento de extinção.

A declaração do Ministério da Segurança do Estado, porém, não alertou que a IA poderia provocar a extinção da humanidade nem pediu que empresas chinesas reduzissem o ritmo de seus trabalhos na área.

No fim de semana, Dario Amodei, presidente-executivo da Anthropic, publicou um texto no qual pediu que o setor de tecnologia “desacelere o ritmo com que aprimoramos as capacidades dos modelos de IA”. Sam Altman e Elon Musk também divulgaram declarações apoiando a proposta.

O Global Times, tabloide nacionalista ligado ao Partido Comunista da China, criticou na segunda-feira (14) a sugestão feita por Amodei de que uma “liderança chinesa em IA representaria um grave perigo para os Estados Unidos e para o mundo”.

A afirmação de Amodei “corre o risco de transformar a segurança da IA em uma questão geopolítica de soma zero, em vez de abordar um desafio global que exige cooperação entre as principais potências de IA”, afirmou o jornal, acrescentando que a motivação de Amodei seria de “interesses comerciais”.

Vários funcionários de órgãos reguladores, diplomatas e acadêmicos que trabalham com políticas de tecnologia e governança de IA afirmam que Pequim está cada vez mais preocupada com suas vulnerabilidades cibernéticas, diante dos avanços feitos pela Anthropic e pela OpenAI, cujos novos modelos demonstraram capacidades avançadas de invasão de sistemas.

Funcionários chineses também levantaram preocupações sobre a segurança da inteligência artificial em discussões recentes com autoridades e empresas dos Estados Unidos, segundo diplomatas e acadêmicos.

Nessas conversas, autoridades chinesas alertaram contra qualquer iniciativa de Washington para proibir modelos chineses de código aberto.

O presidente dos Estados Unidos, Donald Trump, e o presidente chinês, Xi Jinping, devem se reunir ainda neste mês nos EUA, onde a segurança da inteligência artificial deve estar entre os principais temas da agenda da cúpula.

Na declaração de domingo (13), Chen também destacou o risco de empresas chinesas vazarem “informações sensíveis” ao utilizar ferramentas estrangeiras de inteligência artificial.

O alerta pode antecipar restrições mais rígidas ao uso de modelos estrangeiros de IA em setores considerados sensíveis.

Empresas estatais chinesas e companhias que atuam em áreas como finanças e saúde já enfrentam restrições ao uso de tecnologias estrangeiras, embora a aplicação dessas regras varie.