A Anthropic envia chefes de segurança a Washington numa tentativa de proteger seus principais modelos de IA

Após uma reportagem da Cryptopolitan sobre uma proibição federal imposta à exportação de seu software de IA para usuários que não sejam americanos, a Anthropic enviou pesquisadores de segurança e modelos de IA para Washington.

As reuniões de segunda-feira foram as primeiras conversas presenciais entre a startup e altos funcionários do governo Trump desde que a ordem entrou em vigor.

A Casa Branca não espera que a disputa desapareça em poucos dias, embora as autoridades não tenham descartado uma solução rápida.

Segundo o Politico, um alto funcionário transferiu a responsabilidade para a empresa, dizendo: "Isso depende da Anthropic". A restrição foi implementada devido a possíveis vulnerabilidades de segurança no novo modelo e agora impede que usuários fora dos EUA acessem a tecnologia mais avançada da empresa.

A Anthropic envia sua equipe de segurança para explicar as defesas do modelo

A Anthropic passou o fim de semana tentando evitar que o problema se agravasse, com o cofundador Tom Brown e Sarah Heck, responsável pelas políticas públicas da empresa, participando de longas conversas por telefone com o Secretário de Comércio Howard Lutnick e o Diretor Nacional de Segurança Cibernética Sean Cairncross.

Essas comunicações levaram a reuniões na segunda-feira envolvendo o Departamento de Comércio e o gabinete de Cairncross. A equipe cuidou das discussões. Um desses funcionários era Chris Fall, que dirige o Centro de Padrões e Inovação em IA do Departamento de Comércio.

Na reunião, a Anthropic apresentou detalhadamente as medidas de segurança que envolviam o modelo aos funcionários federais. A empresa mencionou testes de sistemas, busca por vulnerabilidades e a limitação de comportamentos indesejáveis antes do lançamento do produto. O objetivo era convencer Washington de que o modelo poderia ser oferecido no exterior sem representar qualquer ameaça à segurança nacional.

A empresa enviou Logan Graham, da equipe Frontier Red Team, onde ele testa sistemas tentando quebrar suas proteções. Dave Orr, chefe de salvaguardas, o acompanhou. Nicholas Carlini, pesquisador de segurança líder da empresa, também fazia parte da delegação.

A ação do governo já removeu o acesso estrangeiro aos modelostronrobustos da Anthropic. Também gerou incerteza sobre se as autoridades federais podem impedir o lançamento de uma IA depois que uma empresa segue um sistema de revisão voluntária.

Autoridades do governo Trump defendem a ordem, enquanto líderes da indústria alertam para possíveis danos mais amplos

A mais recente ordem executiva de Trump sobre IA solicitou que as principais empresas de tecnologia enviassem seus novos modelos para avaliação governamental 30 dias antes do lançamento. A participação foi inteiramente voluntária. Em sua versão final, a ordem revogou propostas anteriores que obrigariam os modelos de IA a passar por aprovação ou licenciamento governamental antes do lançamento.

David Sacks, um investidor de capital de risco que assessorou o governo Trump em questões de IA, participou da elaboração da política e ainda mantém laços com o presidentedentA medida contra a Anthropic gerou preocupações dentro do governo sobre o possível desenvolvimento secreto de um processo de aprovação que a ordem buscava evitar.

Segundo Kush Desai, porta-voz da Casa Branca, o governo está trabalhando com líderes da indústria de IA para garantir que a inovação e os interesses de segurança nacional sejam levados em consideração.

Kush também afirmou: "Os Estados Unidos são, de longe, os líderes mundiais na corrida global pela IA, e odent Trump está empenhado em garantir o domínio tecnológico americano."

Um funcionário do governo disse que o conflito ainda pode estar de acordo com a ordem executiva se a restrição terminar rapidamente. "Se isso passar, se as restrições forem suspensas amanhã, então eu diria: 'Ah, tudo bem, isso ainda está de acordo com a ordem executiva, e vamos continuar assim'", disse o funcionário.

A mesma pessoa adotou uma postura mais firme caso a proibição seja mantida. "Se a situação ainda estiver uma merda daqui a uma semana, então acho que teremos uma compreensão clara do que está acontecendo."

Alega-se que esse funcionário classificou um conflito prolongado como "um enorme problema" para o setor de IA dos EUA e alertou que todos os futuros desenvolvedores de modelos poderiam acabar tendo que pedir permissão a Washington antes do lançamento. "Essa é uma situação extremamente ruim, que paralisaria completamenteripple o setor", disse o funcionário. "Isso colocaria toda a indústria de IA em desvantagem e seria um problema de recrutamento e retenção de pesquisadores de IA."

As mentes mais brilhantes do mundo das criptomoedas já leem nossa newsletter. Quer participar? Junte-se a elas.