A Anthropic propôs nessa quinta-feira (4) uma pausa global no desenvolvimento de sistemas de inteligência artificial, diante de sinais de que os modelos mais recentes poderiam escapar do controle humano e impor “riscos imensos” à sociedade.
O pedido da desenvolvedora do Claude e do Mythos é parte de um artigo mostrando que os modelos de linguagem estão mais próximos de um estágio de aperfeiçoamento autônomo. Conhecido como autoaperfeiçoamento recursivo, esse processo ocorre quando a tecnologia passa a avançar mais rapidamente por conta própria do que por meio do trabalho humano.
“O autoaperfeiçoamento recursivo ainda não é uma realidade, tampouco é inevitável. Mas, se as tendências continuarem, parece plausível que sistemas de IA passem a projetar e construir seus próprios sucessores”, afirmou a presidente do Instituto Anthropic, Marina Favaro, que lidera o braço de caridade e políticas públicas da empresa.
“Nesse cenário, espera-se que o ritmo do desenvolvimento da tecnologia acelere. Isso tem o potencial de trazer enormes benefícios ao mundo, mas também gera riscos de perda de controle”, acrescentou ela em publicação no LinkedIn.
Para a companhia, a desaceleração mundial no desenvolvimento da IA de ponta poderia ser “uma boa ideia”. Porém, se apenas uma empresa diminuir o ritmo, ela pode simplesmente ser ultrapassada pela concorrência.
“Nós assumimos o compromisso de ajudar a construir os sistemas necessários para uma desaceleração crível e coordenada e, uma vez que tais sistemas existam, de desacelerar ou pausar temporariamente as atividades ao lado de outros desenvolvedores de fronteira”, escreveu Favaro. “Isso, caso os concorrentes façam o mesmo de forma verificável”, acrescentou ela, que trabalhava em iniciativas de desarmamento para encerrar conflitos.
A criadora do Claude indicou que espera reunir nos próximos meses funcionários do governo, cientistas, grupos de defesa e empresas concorrentes para definir como esse sistema funcionaria.
Uma pausa real significaria grandes empresas de IA em vários países, principalmente China e EUA, concordando em parar ao mesmo tempo, sob regras que todos pudessem verificar, afirmou a Anthropic no manifesto. “Sem um mecanismo de coordenação global, empresas e governos terão que tomar decisões difíceis sobre segurança enquanto enfrentam pressões competitivas e geopolíticas.”
“Acreditamos que seria bom para o mundo ter a opção de reduzir ou pausar temporariamente o desenvolvimento da IA, para permitir que as estruturas sociais e a pesquisa de alinhamento sigam o ritmo do avanço da tecnologia”, manifestou a Anthropic.
A proposta enfrenta uma batalha difícil em Washington e no Vale do Silício. Funcionários americanos e executivos de grandes empresas de tecnologia argumentam que desacelerar o desenvolvimento da IA poderia dar à China uma vantagem significativa.
O presidente dos EUA, Donald Trump, no entanto, assinou nesta semana um decreto que permitirá ao governo fazer avaliações preliminares dos modelos de IA mais poderosos de empresas americanas antes do seu lançamento.
No artigo publicado na quinta, a Anthropic divulgou dados inéditos sobre o seu desempenho. “Engenheiros da empresa com auxílio de IA, por exemplo, publicam hoje, em média, oito vezes mais linhas de código por trimestre do que no período entre 2021 e 2025.”
Segundo a executiva, o ganho de velocidade não se restringiu ao volume. Em problemas complexos de programação sem resposta evidente, a taxa de sucesso do Claude saltou de 26% para 76% — um avanço de 50 pontos percentuais em apenas seis meses.
A empresa alertou que essa aceleração criaria um ciclo de retroalimentação que poderia levar ao que pesquisadores chamam de “melhora recursiva de si mesma”, o que se refere à ideia de que um sistema de IA poderia ser capaz de ensinar a si próprio a se tornar mais inteligente.
No livro “Se alguém criar, todos morrem” (2025), os cientistas da computação Eliezer Yudkowsky e Nate Soares se arriscam a traçar como seria esse cenário. Na simulação deles, quando um modelo se tornasse capaz de desenvolver novos modelos mais capazes por conta própria, ficaria mais difícil verificar se IA segue fiel as regras dos humanos.
Nesse cenário, começaria uma saga: a IA, cada vez mais inteligente, criaria uma rede de computadores na nuvem, avançaria na bioengenharia, multiplicaria corpos para si e, munida de tecnologia superior, dizimaria a humanidade. Nada disso jamais aconteceu, mas se baseia “no melhor da ciência da computação”, disse Soares em entrevista à Folha.
O último modelo desenvolvido pela Anthropic, Mythos, teve o lançamento restrito a algumas empresas de grande porte, porque a sua criadora o considerou “perigoso demais”.
Por causa do temor de que o modelo pudesse ser usado por hackers para ataques a sistemas financeiros e governamentais, a Anthropic solicitou ajuda das empresas para que encontrassem riscos sociais envolvidos no seu uso.
Fonte ==> Folha SP – TEC
