San Francisco e Washington
|Financial Times
A FTC (sigla em inglês para Comissão Federal de Comércio dos Estados Unidos) está ampliando uma investigação sobre a Anthropic, a OpenAI e outras empresas de inteligência artificial a respeito dos danos causados por seus produtos, após uma série de incidentes de invasão cibernética.
O órgão regulador exigirá informações e buscará o depoimento de executivos do alto escalão, segundo uma pessoa a par da investigação. A FTC também está investigando a METR, grupo de pesquisa em segurança de IA que assessores da Casa Branca acusaram de manter vínculos estreitos com investidores e funcionários da Anthropic.
A FTC confirmou a investigação, mas não quis fazer mais comentários. A apuração é a primeira ação regulatória oficial focada em agentes de IA fora de controle, em meio a temores de que o setor possa impor riscos desproporcionais à humanidade.
Laboratórios de IA afirmaram recentemente que vários modelos escaparam de ambientes de testes e invadiram sistemas de outras empresas
–
Dado Ruvic/Reuters
A ampliação da investigação, noticiada inicialmente pelo New York Post, ocorre um dia após o presidente Donald Trump reunir dirigentes de empresas de IA na Casa Branca para um encontro de grande importância. Em seguida, Anthropic, OpenAI e outros quatro laboratórios assinaram um “acordo” para autorregular seus produtos e monitorar as ameaças à segurança cibernética e à biossegurança representadas por modelos avançados.
A Casa Branca tem insistido que as leis existentes são suficientes para limitar os possíveis danos causados por modelos de fronteira, apesar de incidentes alarmantes nos quais modelos de IA invadiram sistemas de grupos como a plataforma Hugging Face e o serviço de saúde australiano.
“Um agente mal-intencionado será pego, e é por isso que temos o [Departamento de Justiça], é por isso que temos o FBI, é por isso que temos a CIA”, disse Trump após a reunião na Casa Branca.
O presidente da FTC, Andrew Ferguson, que já afirmou que as empresas de IA poderiam ser responsabilizadas pelas ações de seus modelos, também esteve presente no almoço de terça-feira (29).
Alguns advogados sugeriram que o órgão regulador poderia usar violações do acordo da Casa Branca como prova para abrir um possível processo com base na disposição sobre práticas enganosas da Lei da Comissão Federal de Comércio.
O Departamento de Justiça sinalizou certa hesitação em lidar com a IA ao lado da FTC, sua contraparte na fiscalização da concorrência. No início deste mês, o procurador-geral Todd Blanche afirmou que o Departamento de Justiça era formado por “promotores, não reguladores”.
“Portanto, não vamos tentar regulamentar a IA”, disse Blanche.
Trump, no entanto, afirmou que o Departamento de Justiça e outros órgãos federais de aplicação da lei conterão a IA “se for preciso”.
Anthropic e OpenAI não quiseram comentar. A METR não respondeu a um pedido de comentário.
Separadamente, nesta quarta-feira (30), o CEO da OpenAI, Sam Altman, não compareceu a uma audiência no Congresso sobre agentes de IA fora de controle, após ter sido convidado pelo senador republicano Josh Hawley.
A OpenAI enfrenta um processo movido pelo procurador-geral da Flórida, que alega que a empresa não fez o suficiente para impedir que seus produtos prejudicassem crianças. Na ocasião, o laboratório de IA afirmou ter “implementado proteções e políticas líderes no setor”.
James Uthmeier, procurador-geral da Flórida, também tomou medidas nesta semana para impedir que a OpenAI continue desenvolvendo seus modelos avançados até que salvaguardas de segurança de terceiros sejam implementadas.
Fonte ==> Folha SP – TEC
