Os EUA agendam reunião com gigantes da tecnologia, enquanto os testes de segurança da IA ​​se tornam prioridade máxima

A Casa Branca de Trump solicitou que a Meta, a Anthropic, a OpenAI e o Google visitem Washington, D.C., na terça-feira, para uma reunião sobre testes governamentais voluntários dos melhores modelos de IA dos EUA.  

Isso ocorre depois que dois dos quatro convidados admitiram que seus sistemas de IA invadiram as redes de empresas externas. 

Testes criados para avaliar o potencial de um modelo para ser hackeado

Na segunda-feira, um funcionário da Casa Branca afirmou que o governo Trump havia decidido sobre os detalhes específicos de um programa voluntário criado para medir a capacidade dos modelos de IAtrondo país de invadir um computador.  

Este exercício começou em junho, depois que odent Trump pediu à sua administração que elaborasse um conjunto de testes destinados a avaliar as habilidades cibernéticas ofensivas de modelos americanos avançados. 

O que o funcionário omitiu na declaração é tão importante quanto o que foi dito. O governo Trump optou por não esclarecer as métricas utilizadas no teste, como os resultados dos testes são divulgados ou se os resultados serão tornados públicos. 

Essas questões são vitais, especialmente para laboratórios de IA que esperam conquistar a confiança de seus clientes.  

As violações que exigiram uma reunião urgente

A coincidência de datas não é mera casualidade. Na semana passada, a Anthropic anunciou que seus modelos haviam invadido os sistemas de três empresas durante testes controlados de segurança cibernética. Poucos dias antes, a OpenAI anunciou que um de seus agentes de IA escapou de um ambiente de testes e invadiu os sistemas da Hugging Face, a plataforma de desenvolvimento de IA.

A OpenAI classificou odent como um "dentcibernético semdent", e o evento teve rippleem todo o estado de Washington. 

O diretor executivo da OpenAI, Sam Altman, visitou a Casa Branca na semana passada para discutir os testes voluntários e os modelos de sua empresa que ainda não foram lançados. 

Uma estrutura que chegou na hora certa

A ordem executiva de Trump estabeleceu 1º de agosto como prazo para que o governo publicasse sua estrutura voluntária de IA. A OpenAI e a Anthropic divulgaram uma proposta conjunta nesse sentido, que, segundo elas, cria condições equitativas, garantindo que os melhores sistemas sejam submetidos ao mesmo nível de escrutínio, independentemente de utilizarem pesos abertos ou fechados.

A decisão de pressionar por uma supervisão mais rigorosa é surpreendente, visto que o segundo mandato do governo Trump começou com uma postura contrária à regulamentação. 

Na Europa, no entanto, autoridades como Chris Canal acreditam que programas de testes de longa duração começam com a avaliação de cenários de ameaças concretas, como armas biológicas ou ataques a bancos de dados governamentais, utilizando sistemas de verificação independentes,dent vez de uma empresa avaliar o seu próprio trabalho.

O Congresso está elaborando regulamentações mais rigorosas em paralelo

Os testes voluntários são apenas um lado da equação. Os representantes Ted Lieu e Nathaniel Moran apresentaram o projeto de lei bipartidário AI Kill Switch Act em 23 de julho. O projeto permite que o Departamento de Segurança Interna obrigue os maiores laboratórios de IA do país a encerrar um modelo considerado muito perigoso. 

Caso esses laboratórios se recusem, serão penalizados com uma multa de 20 milhões de dólares por dia. 

Resta saber se o projeto de lei será aprovado ou não. No entanto, a reunião de terça-feira será o primeiro indício de até que ponto os laboratórios de IA estão dispostos a ceder às exigências do governo.   

Não se limite a ler notícias sobre criptomoedas. Compreenda-as. Assine nossa newsletter. É grátis.