Governo dos EUA força Anthropic a desativar seus modelos de IA mais poderosos por questões de segurança

Na sexta-feira, 12 de junho, a Anthropic desativou seus dois modelos de IA de melhor desempenho após uma ordem de controle de exportação do Departamento de Comércio dos EUA. Foi um caso incomum de interferência governamental na comercialização de tecnologia de IA de ponta.

O secretário de Comércio dos EUA, Howard Lutnick, ordenou ao CEO da Anthropic, Dario Amodei, às 17h21 (horário do leste dos EUA) de sexta-feira, que restringisse o acesso a Claude Fable 5 e Claude Mythos 5, de acordo com um comunicado da Anthropic.

A diretiva aplicava-se a todos os indivíduos estrangeiros, independentemente de estarem dentro ou fora dos Estados Unidos, incluindo os próprios funcionários estrangeiros da Anthropic.

A Anthropic afirmou que não conseguia aplicar restrições baseadas na nacionalidade de forma eficaz e, portanto, desativou os modelos. Os outros modelos Claude ainda estão disponíveis.

O Departamento de Comércio toma medidas contra os modelos mais recentes da Anthropic

A diretiva surgiu após um alerta de uma empresa não identificada sobre uma técnica que poderia burlar partes do sistema de segurança de Fable 5, informou o Axios, citando um funcionário do governo.

A Anthropic havia lançado os dois modelos apenas três dias antes, em 9 de junho. O Fable 5 estava disponível ao público, enquanto o Mythos 5 era limitado a parceiros selecionados de cibersegurança no âmbito do Projeto Glasswing.

Anteriormente, o governo Trump havia mantido conversas tentando persuadir a empresa a adiar o lançamento, mas a Anthropic prosseguiu mesmo assim.

Um funcionário da Casa Branca disse que consideraram importante manter os modelos bloqueados enquanto o país fortalece a infraestrutura de segurança federal e afirmou acreditar que isso levará semanas.

Segundo a diretiva, qualquer parte que pretenda exportar, reexportar ou transferir qualquer um dos modelos nos EUA necessitará de uma licença do Departamento de Comércio. A Anthropic também terá de solicitar licenças validadas individualmente. O incumprimento poderá acarretar sanções pecuniárias e civis, informou a Axios.

A Anthropic afirma que o risco de fuga da prisão é exagerado

A Anthropic contestou a diretiva, afirmando que a fuga em questão foi limitada e não representou uma violação universal dos sistemas de segurança das modelos.

A empresa descreveu a técnica como uma que pede a um modelo para revisar uma base de código específica edentfalhas de software. A Anthropic afirmou ter analisado uma demonstração do método e constatado que ele revelou apenas vulnerabilidades menores já conhecidas.

“Descobrimos que outros modelos disponíveis publicamente também conseguem detectá-los sem precisar de um mecanismo alternativo”, escreveu Anthropic, citando o GPT-5.5 da OpenAI como um exemplo.

A Anthropic também afirmou ter realizado milhares de horas de testes de segurança (red teaming) antes do lançamento, em parceria com o governo dos EUA, o Instituto de Segurança de IA do Reino Unido e organizações privadas.

Segundo a empresa, esses testes não encontraram nenhuma forma universal de desbloqueio, ou seja, nenhum método único capaz de burlar amplamente os controles de segurança do modelo em diversas funcionalidades.

“Discordamos que a descoberta de uma possível vulnerabilidade específica deva ser motivo para o recolhimento de um modelo comercial implementado para centenas de milhões de pessoas”, escreveu a Anthropic. “Se esse padrão fosse aplicado a toda a indústria, acreditamos que isso essencialmente paralisaria todas as novas implementações de modelos de todos os fornecedores de modelos inovadores.”

Fable 5 já vinha enfrentando críticas

A paralisação encerrou uma semana de lançamento turbulenta para a Anthropic.

Fable 5 foi lançado em 9 de junho com filtros que direcionavam consultas sensíveis em segurança cibernética, biologia, química e pesquisa de IA para um modelo anterior, o Claude Opus 4.8. Esses filtros foram criticados quase imediatamente por serem muito restritivos.

De acordo com uma reportagem anterior da Cryptopolitan, os usuários disseram que o modelo tinha dificuldades com questões básicas de biologia envolvendo membranas celulares e vacinas de mRNA.

Outra controvérsia girou em torno do cartão de sistema de 319 páginas da Anthropic, que afirmava que o Fable 5 reduziriamatica qualidade da resposta para perguntas relacionadas à pesquisa de ponta em IA, sem avisar os usuários.

A Anthropic alterou essa política em 10 de junho, após pesquisadores argumentarem que as salvaguardas ocultas concentrariam as capacidades de IA em um pequeno grupo de empresas. A empresa pediu desculpas e afirmou que as salvaguardas futuras seriam visíveis aos usuários.

A Microsoft também restringiu o uso do Fable 5 por seus funcionários devido à exigência da Anthropic de retenção de dados por 30 dias para modelos da classe Mythos, conforme relatado pelo The Verge.

De acordo com essa política, as solicitações e os resultados são armazenados por 30 dias para fins de segurança e confiança, enquanto o conteúdo sinalizado pode ser retido por até dois anos.

A Anthropic afirma estar trabalhando para reverter a paralisação

A Anthropic afirmou que a ação do governo foi baseada em um mal-entendido e que está trabalhando com as autoridades para resolver a questão. A empresa disse que fornecerá mais informações dentro de 24 horas.

O encerramento das atividades ocorre em um momento crítico para a Anthropic. A empresa apresentou documentosdentno início deste mês para um IPO planejado nos EUA, após ter captado US$ 65 bilhões com uma avaliação de US$ 965 bilhões no final do mês passado, informou a Reuters.

A Anthropic enfrenta agora pressão em duas frentes: os reguladores questionam a segurança de seus modelos mais avançados, enquanto os investidores apostam em sua capacidade de continuar aumentando a receita comercial.

A conta oficial de Claude no X informou aos usuários que novas sessões agora usarão por padrão o modelo selecionado ou o Opus 4.8. As sessões existentes do Fable 5 serão encerradas com um erro, e os desenvolvedores foram aconselhados a atualizar suas integrações para outros modelos do Claude.

As mentes mais brilhantes do mundo das criptomoedas já leem nossa newsletter. Quer participar? Junte-se a elas.