Em um novo ensaio abrangente intitulado "Política sobre IA Exponencial," O cofundador e CEO da Anthropic, Dario Amodei, pede publicamente novas regulamentações governamentais que regem o lançamento de modelos poderosos de IA – comparando especificamente a indústria de IA com a aviação comercial, que segue as regulamentações aplicadas pela Administração Federal de Aviação dos EUA (FAA) – argumentando que isso é necessário para manter a segurança pública à medida que as capacidades de IA e possíveis usos indevidos aumentam.

Juntamente com o ensaio, a Anthropic lançou dois roteiros políticos abrangentes: um Quadro Avançado de IA que visa riscos de modelos catastróficos, e um Quadro de Política Económica que aborda o deslocamento laboral impulsionado pela IA, apoiado por 350 milhões de dólares em novo financiamento.

O momento não poderia ser mais importante: ontem, a Anthropic lançou seu modelo de lançamento geral mais poderoso de todos os tempos, Claude Fable 5, e uma versão mais fechada e atualizada do modelo básico de Claude Mythos, agora conhecido como Claude Mythos 5, que oferece capacidades cibernéticas defensivas e ofensivas avançadas.

Como observou Amodei no X após o lançamento: “A Antthropic há muito defende requisitos de transparência para a IA de fronteira, porque os riscos ainda não eram suficientemente claros para serem regulamentados com precisão. Isso já não é suficiente”.

Para os decisores técnicos, CIOs e arquitetos empresariais, o ensaio não é apenas uma declaração política – é uma antevisão das restrições operacionais, regulamentares e de força de trabalho que regerão a próxima geração de tecnologia empresarial.

Aqui estão as três principais conclusões que os líderes empresariais precisam extrair da última queda nas políticas da Anthropic.

1. Modelos de fronteira podem enfrentar "Estilo FAA" Suspensões de implantação

Nos últimos três anos, as empresas construíram produtos partindo do pressuposto de que as capacidades da API de IA só se moverão numa direção: mais rápidas e mais poderosas. O Advanced AI Framework da Anthropic introduz uma nova variável: embargos regulatórios.

Amodei compara explicitamente o regime regulamentar de IA necessário com a Administração Federal de Aviação (FAA), afirmando: “Os modelos de IA de fronteira, como os aviões, devem ser obrigados a passar por testes técnicos e auditoria, e a sua libertação deve ser bloqueada ou revertida como uma ameaça à segurança pública se não cumprirem elevados padrões de segurança”.

A empresa está propondo que modelos treinados usando mais de 10^25 operações de ponto flutuante (FLOPs) – ou desenvolvidos por empresas com mais de US$ 500 milhões em receita de IA ou US$ 1 bilhão em P&D de IA – sejam submetidos a testes obrigatórios de terceiros.

Se estes modelos apresentarem graves riscos biológicos, de cibersegurança ou de autonomia, o governo terá autoridade legal para bloquear, atrasar ou dissuadir a sua implantação.

A implicação empresarial: Se a sua empresa licencia modelos básicos para infraestrutura central, você deve planejar a volatilidade da cadeia de suprimentos. Uma atualização de modelo altamente antecipada de um fornecedor de IA pode ser adiada indefinidamente pelos reguladores, ou um modelo existente pode ser revogado se os testes pós-lançamento revelarem ameaças autônomas. Os líderes tecnológicos devem projetar arquiteturas multimodelos que evitem ficar presos a um único fornecedor, garantindo a continuidade dos negócios se o modelo principal de um fornecedor for bloqueado por uma agência federal.

2. A segurança cibernética em torno da IA ​​é agora uma infraestrutura crítica

O impulso da Antrópico por regulamentação é fortemente motivado pela recente escalada nas ameaças à segurança cibernética impulsionadas pela IA. Amodei faz referência explicitamente ao Claude Mythos Preview da Anthropic, observando que sua capacidade de descobrir vulnerabilidades de alta gravidade nos principais sistemas operacionais "mexidos" o cenário global de segurança cibernética.

De acordo com a estrutura proposta pela Antrópica, proteger o ambiente de desenvolvimento de IA é fundamental. Os desenvolvedores de fronteira seriam obrigados a proteger o peso de seus modelos tanto contra invasores cibernéticos externos quanto contra ameaças internas. Além disso, as empresas devem desenvolver canais para reportar "ataques de destilação de modelo"—onde concorrentes ou malfeitores usam um modelo primário para treinar um clone mais barato e desalinhado.

A implicação empresarial: Os riscos para a segurança empresarial são duplos. Primeiro, as capacidades defensivas da IA ​​tornar-se-ão um pré-requisito; como alerta Amodei, os invasores que usam modelos de fronteira para investigar vulnerabilidades superarão a defesa tradicional liderada por humanos. Em segundo lugar, as empresas que ajustam modelos abertos ou hospedam instâncias proprietárias localmente provavelmente enfrentarão novos e intensos encargos de conformidade e segurança da informação. Tratar os pesos dos modelos como segredos corporativos altamente confidenciais se tornará o novo padrão do setor.

3. Plano para deslocamento estrutural de mão de obra, não apenas eficiência

Talvez o aspecto mais preocupante do anúncio seja o Quadro de Política Económica da Antrópico. A empresa reconhece publicamente que, se a IA atingir as capacidades previstas, atuará como um "substituto geral do trabalho" em vez de apenas uma ferramenta de produtividade.

Amodei define isto sem rodeios: “O principal desafio num mundo assim não será incentivar o crescimento, mas sim encontrar uma forma de todos partilharem os benefícios”.

Para apoiar isto, a Anthropic está a comprometer 350 milhões de dólares para enfrentar as perturbações económicas: 200 milhões de dólares para um Fundo de Investigação sobre Futuros Económicos para testar soluções de políticas públicas, e 150 milhões de dólares para um programa nacional de bolsas de estudo. O quadro planeia ativamente cenários em que a IA conduza o desemprego para 5%, 10%, ou mesmo níveis sem precedentes, defendendo políticas como seguro salarial, rendimento básico universal e modelos de riqueza soberana.

A implicação empresarial: Para os líderes tecnológicos e os departamentos de RH, a transição da IA ​​está prestes a tornar-se um campo minado nas relações laborais. O quadro económico observa que as empresas "pode optar por retreinar e redistribuir em vez de reduzir o número de funcionários," mas admite que a acção voluntária não substitui a resposta do governo. As empresas que procuram integrar fortemente a IA devem começar a implementar planos de transição da força de trabalho imediatamente. Os líderes que vêem a IA apenas como um mecanismo para uma rápida redução de custos através de despedimentos poderão em breve encontrar-se confrontados com novas "incentivos pró-emprego" ou políticas de retenção de impostos propostas por defensores para retardar a deslocação de empregos.

O que as empresas devem fazer agora

O anúncio da Antrópico marca um ponto de viragem no diálogo da indústria de IA com Washington e o mercado global. Como Amodei postou: "Muitas destas ideias políticas têm apelo de bom senso em todo o espectro político, e quanto mais cedo agirmos sobre elas, mais cedo todos partilharão dos benefícios da IA".

Para a empresa, a mensagem é clara: a era da "mova-se rápido e quebre coisas" na IA generativa está fechando. A era da conformidade rigorosa, da segurança sistêmica e das transições complexas da força de trabalho está se aproximando rapidamente.

Para se prepararem para esta mudança, as empresas devem primeiro dissociar as suas estratégias de IA das dependências de um único fornecedor. Se um modelo principal for subitamente bloqueado ou retirado ao abrigo dos poderes regulamentares propostos ao estilo da FAA, as organizações que dependem dessa API específica enfrentarão uma paralisia operacional imediata. Os líderes de TI devem construir arquiteturas multimodelos que lhes permitam trocar modelos básicos sem problemas, garantindo a continuidade dos negócios em um ecossistema altamente regulamentado.

Em segundo lugar, os decisores técnicos devem elevar a infraestrutura de IA ao nível de segurança cibernética crítica. Com sistemas de IA de ponta agora capazes de descobrir vulnerabilidades de software de alta gravidade em escala, a superfície de ameaças está se expandindo rapidamente. As empresas que ajustam modelos ou os hospedam internamente devem bloquear seus ambientes de desenvolvimento contra ameaças externas e internas, correspondendo aos rigorosos padrões de segurança que a Anthropic exige da indústria em geral.

Finalmente, as equipas de liderança precisam de uma estratégia laboral proactiva, em vez de reactiva. A Anthropic adverte explicitamente contra a utilização da IA ​​apenas para redução de custos através de despedimentos, incentivando as empresas a procurarem ativamente novos casos de utilização que lhes permitam reter e requalificar a sua força de trabalho existente. À medida que os governos implementam potencialmente incentivos fiscais pró-emprego e políticas de seguro salarial para retardar a deslocação de empregos, as empresas que cortam agressivamente o número de funcionários para financiar a adopção da IA ​​podem encontrar-se do lado errado tanto do sentimento público como das futuras regulamentações económicas.

Fonte ==> Cyberseo