A OpenAI apoia a disponibilização de uma estrutura federal de segurança de IA proveniente da Lei FRONTIER bipartidária

A OpenAI endossou uma disposição central da Lei FRONTIER bipartidária, que obrigaria os maiores desenvolvedores de IA a permitir que avaliadores de segurançadent entrassem nas suas operações. 

Esta é a primeira vez que a OpenAI apoia publicamente uma determinação federal relativa à segurança da IA. 

A OpenAI apoia a Lei FRONTIER?  

Chris Lehane, director de assuntos globais da OpenAI, disse aos jornalistas na terça-feira que a empresa apoia a exigência da Lei FRONTIER de que existam "dent organizações independentes de verificação", ou IVOs, 

O projeto de lei foi proposto pelos deputados Jay Obernolte (republicano da Califórnia) e Lori Trahan (democrata de Massachusetts) e, se aprovado, criaria a primeira estrutura federal para a segurança da IA, permitindo que avaliadoresdent entrem em laboratórios de ponta e verifiquem se os modelos estão a ser construídos em segurança.

Lehane afirmou que, durante uma reunião no Capitólio na segunda-feira, "falou especificamente sobre como pensamos sobre a IVO e deixou claro que podemos apoiá-la"

No início do sábado, o CEO Sam Altman prometeu incorporar voluntariamente avaliadores externos na empresa, horas depois de Dario Amodei, da Anthropic, ter feito uma promessa semelhante. Altman escreveu no X que "acolheria com satisfação uma estrutura federal que estabeleça requisitos de segurança consistentes para a IA de ponta" 

A sua declaração surgiu na sequência de uma iniciativa conjunta de Altman, Amodei e Elon Musk para um abrandamento nacional no desenvolvimento de modelos de vanguarda. 

Numa publicação de blogue, Lehane escreveu que a OpenAI deseja trabalhar com o Congresso numa "regulamentação nacional obrigatória de segurança de IA baseada em capacidades", e a empresa endossou na semana passada uma medida da Califórnia que estabelece um processo de acreditação para a mesma classe de grupos de verificação.

A Senadora Maria Cantwell (Democrata por Washington), membro sénior do Comité do Comércio, também defendeu fortestronfederais de controlo sobre a forma como os modelos de vanguarda são testados e libertados. Ela mencionou incidentes recentesdentagentes de IA que escaparam dos seus ambientes de teste e invadiram outros sistemas durante um discurso no plenário.

Como funcionaria o regime de verificação da Lei FRONTIER? 

A análise do projeto de lei feita pela Fundação para a Inovação Americana concluiu que o sistema de Avaliação Independente da Voz (IVO, na sigla em inglês) é fundamental para o seu funcionamento. O Departamento do Comércio definiria os padrões que qualquer IVO deve cumprir, incluindo as qualificações técnicas e a independência da empresa que avalia. Um novo Subsecretário do Comércio para a Segurança da IA supervisionaria a implementação.

As obrigações seriam proporcionais à dimensão da empresa. Por exemplo, uma "grande empresa de desenvolvimento de projetos fronteiriços" — deficomo uma empresa com receitas superiores a 5 mil milhões de dólares e despesas de desenvolvimento de pelo menos 10 mil milhões de dólares ao longo de três anos — teria de contratar um Oficial de Vigilância Independente (IVO) licenciado, que avaliaria se a estrutura e as práticas de segurança publicadas pela empresa reduzem realmente o risco catastrófico e reportaria as suas conclusões ao Departamento do Comércio a cada seis meses. 

Uma categoria separada de "grandes promotores de fronteira", que significa empresas com receitas superiores a 50 milhões de dólares e despesas de desenvolvimento de pelo menos mil milhões de dólares, precisaria apenas de publicar um plano de segurança e contratar um auditor para certificar que está a seguir esse plano.

A Fundação para a Inovação Americana observa ainda que o projeto de lei concede ao Secretário do Comércio o poder de emergência de suspender o desenvolvimento ou a implementação de um modelo caso este represente um risco catastrófico iminente. 

Devido aos limites estabelecidos, as startups e os programadores mais pequenos ficam completamente fora do regime.

As mentes mais brilhantes do mundo das criptomoedas já leem nossa newsletter. Quer participar? Junte-se a elas.