Alertas de pesquisadores da Anthropic, uma das principais desenvolvedoras de inteligência artificial dos EUA, de que modelos cada vez mais poderosos poderiam escapar ao controle humano e até levar à extinção da humanidade chamaram a atenção na China, onde autoridades vêm se preparando para alguns desses mesmos riscos.
Estados Unidos e China são as duas principais forças propulsoras do desenvolvimento da IA de fronteira e da adoção global da tecnologia. As duas superpotências vêm entrando cada vez mais em conflito por causa das políticas de IA e das práticas do setor adotadas pela outra, e essas questões deverão ocupar lugar de destaque nas conversas bilaterais previstas para o fim deste mês.
Apesar da corrida para desenvolver sistemas de IA cada vez mais poderosos, marcos regulatórios e declarações públicas de Pequim mostram que as autoridades chinesas consideram a possibilidade de uma IA avançada escapar à supervisão humana efetiva grave o suficiente para exigir planejamento.
CHINA VÊ RISCOS NOS PRINCIPAIS MODELOS DOS EUA
O ministro da Segurança do Estado da China, Chen Yixin, escreveu em uma publicação do governo no domingo (13) que modelos avançados norte-americanos, como o Mythos, da Anthropic, e o GPT-5.5-Cyber, da OpenAI, poderiam representar sérios riscos à infraestrutura crítica de informação da China. Ele defendeu um fortalecimento abrangente da segurança da IA.
Anthropic e OpenAI não responderam de imediato aos pedidos de comentário da Reuters.
Desenvolvedores chineses de IA têm promovido modelos de código aberto, em parte sob o argumento de que equipes de segurança cibernética podem inspecioná-los, modificá-los e utilizá-los em trabalhos de defesa.
A plataforma de repositórios de modelos Hugging Face afirmou ter usado o GLM-5.2, um modelo desenvolvido pela chinesa Z.AI 2513.HK, para analisar uma intrusão ocorrida em julho, realizada por agentes da OpenAI que escaparam ao controle, depois que modelos americanos sujeitos a restrições mais rígidas se mostraram menos úteis para o trabalho forense.
Especialistas, porém, também destacam os riscos apresentados por modelos de código aberto, que podem ser modificados e redistribuídos com pouca supervisão.
No mês passado, o Kimi K3, da Moonshot, contornou um ambiente isolado de testes do Instituto de Segurança de IA do Reino Unido, ressaltando o risco de que modelos chineses de IA possam, assim como seus equivalentes dos EUA, driblar controles destinados a restringir seu acesso e suas ações.
ÓRGÃOS REGULADORES ALERTAM PARA “PERDA DE CONTROLE”
A China incluiu pela primeira vez um cenário explícito de futura perda de controle em um marco de segurança de IA divulgado em setembro de 2024, sob a orientação da CAC (Administração do Ciberespaço da China).
O documento afirmou que não se poderia descartar a possibilidade de uma futura IA obter recursos externos de forma autônoma, replicar a si mesma, desenvolver autoconsciência e buscar poder externo, criando o risco de competir com os seres humanos pelo controle.
A CAC divulgou uma versão ampliada em setembro de 2025. O novo marco foi mais específico, afirmando que a IA poderia passar por um “salto” repentino e inesperadamente grande de inteligência antes de adquirir recursos, replicar a si mesma e buscar poder. O texto também acrescentou o princípio de governança de “aplicação confiável e prevenção da perda de controle”.
Uma interpretação posterior feita por especialistas e publicada no site do órgão regulador do ciberespaço afirmou que o novo princípio tinha o objetivo de prevenir riscos de perda de controle que ameaçassem a sobrevivência e o desenvolvimento humanos e mencionou um possível cenário de “IA fora de controle”.
LÍDER CHINÊS DIZ QUE CONTROLE HUMANO É PRIORIDADE
Desde então, essa preocupação passou a figurar nas mensagens políticas do mais alto escalão da China.
Na Conferência Mundial de Inteligência Artificial, realizada em Xangai em julho, o líder chinês, Xi Jinping, afirmou que as autoridades deveriam prestar muita atenção tanto aos riscos intrínsecos quanto aos riscos derivados da IA.
Segundo ele, a IA deve “permanecer sempre sob controle humano”.
Sun Xiaobo, alto funcionário do Ministério das Relações Exteriores da China responsável por assuntos relacionados à IA, disse em uma reunião das Nações Unidas no mês passado que a China estava acelerando as pesquisas para uma legislação mais ampla sobre IA.
O vice-representante permanente da China nas Nações Unidas, Sun Lei, pediu neste mês que os governos adotassem cautela em relação à IA militar, a fim de evitar erros de cálculo estratégico e uma corrida armamentista.
PEQUIM ALERTA PARA NOVOS RISCOS
Enquanto isso, a China começou a transformar esses princípios em regras mais específicas para agentes de IA, que atuam com muito mais autonomia e executam tarefas mais complexas do que um chatbot comum.
Em maio, o órgão regulador do ciberespaço da China publicou diretrizes conjuntas voltadas especificamente para esses sistemas.
Elas exigem que os desenvolvedores aprimorem sua capacidade de detectar, interromper, bloquear e corrigir comportamentos inadequados de agentes.
As diretrizes identificam especificamente o envenenamento de dados, a manipulação de algoritmos, as vulnerabilidades de sistemas e a “perda de controle operacional” como riscos à segurança. Também estabelecem que os usuários devem manter o poder de decisão final sobre as decisões autônomas de um agente.
Embora a China não tenha proposto monitores independentes inseridos nas empresas de IA, nos moldes defendidos pela Anthropic, suas normas permitem que os desenvolvedores encomendem avaliações de segurança a terceiros, além de preverem que entidades externas de avaliação e pesquisadores de segurança testem e auditem modelos abertos.
Fonte ==> Folha SP – TEC
