O CEO do Google DeepMind pede que os EUA liderem a regulamentação diante da crescente ameaça da Inteligência Artificial Geral (AGI)

Demis Hassabis, cofundador e CEO do Google DeepMind, quer que o governo dos EUA crie um novo órgão de fiscalização encarregado de monitorar os modelos de IA mais poderosos do mundo. Esse órgão também terá o poder de ordenar que o setor desacelere caso o perigo aumente.

Ele detalhou isso em seu manifesto, publicado em 14 de julho, e afirmou que deseja que o órgão esteja em funcionamento antes do final do ano.

Hassabis é uma das vozes mais importantes na área da inteligência artificial. Ele dividiu o Prêmio Nobel de Química de 2024 por seu trabalho sobre o dobramento de proteínas e dirige o laboratório por trás do Gemini.

Em entrevista, ele afirmou que a indústria chegou ao ponto em que a supervisão da IA precisa ser sistemáticamaticfinanciada pelos próprios laboratórios, composta por especialistas técnicos e responsável perante o governo dos EUA.

O que fará o órgão regulador de IA dos EUA?

Hassabis está modelando o órgão nos moldes da FINRA, a entidade reguladora privada, financiada pela indústria, que fiscaliza as corretoras de Wall Street sob a autoridade da Comissão de Valores Mobiliários (SEC).

Em seu plano, os laboratórios de vanguarda entregariam seus modelos voluntariamente, até 30 dias antes do lançamento, para que o órgão pudesse testá-los quanto a capacidades cibernéticas, biológicas e de "engano" perigosas.

Ele afirmou que, uma vez que os testes se mostrem confiáveis, regras formais "poderiam ser estabelecidas rapidamente", o que significa que um modelo teria que ser aprovado antes de poder ser implementado no mercado americano.

Os padrões se aplicariam a todos os sistemas de fronteira, e Hassabis acrescentou que “independentemente do país de origem ou se são abertos ou fechados”, com os parâmetros atualizados conforme a tecnologia avança.

Ele também quer que o conselho sejadentmajoritariamente por membros independentes, incluindo vencedores do Prêmio Turing e outros pesquisadoresdent, além de representantes da indústria, do governo e de desenvolvedores de código aberto. Ele afirmou que o rótulo de "fronteira" se tornaria um símbolo de status, acrescentando: "Acho que é um tipo de trunfo bastante interessante e prestigioso"

Por que Hassabis está pedindo agora por um órgão de fiscalização da IA?

Hassabis afirma que os ciberataques atuais, impulsionados por IA, são "tiros de alerta". Segundo ele, dentro de 18 meses, riscos biológicos e nucleares mais graves poderão estar presentes em modelos de código aberto que nenhum governo conseguirá reverter. Ele acrescentou que a ameaça não se limita a sistemas abertos e que os próprios modelos proprietários dos laboratórios, no futuro, apresentarão os mesmos perigos.

Ele afirmou que deseja que o órgão de fiscalização esteja operacional em alguns meses e passou as últimas semanas reunindo-se com a administração Trump, líderes de laboratórios rivais e autoridades europeias antes de tornar o assunto público. "Os sinais que tenho ouvido são muito positivos", disse ele sobre as conversas na Casa Branca.

Até o mês passado, a administração havia adotado uma postura de não intervenção, quando colocou os modelos Mythos e Fable da Anthropic sob controle de exportação, limitando seu acesso. A ordem foi posteriormente revogada, e a Anthropic liberou os modelos com mais restrições.

A OpenAI, por outro lado, concordou em limitar o GPT-5.6 a parceiros aprovados pelo governo antes de liberá-lo publicamente na semana passada, após testes com o Departamento de Comércio, uma medida vista como uma tentativa de evitar o mesmo resultado que o da Anthropic.

Hassabis diz que odent é "um alerta"

Um raro ponto de concordância

O CEO da Anthropic, Dario Amodei, também é da opinião de que deveria haver uma agência com poder para controlar modelos de IA inseguros, defendendo regras vinculativas e uma agência nos moldes da FAA (Administração Federal de Aviação dos EUA).

A posição de Amodei está de acordo com a de Hassabis; no entanto, este último é favorável à estrutura mais leve e administrada pela indústria, representada pela FINRA.

Vale destacar a crença de Hassabis de que os riscos estão aumentando rapidamente. Ele afirmou que a Inteligência Artificial Geral (IAG), um sistema que corresponda a toda a gama da capacidade cognitiva humana, está "provavelmente a poucos anos de distância" e, em um evento em Stanford, estimou sua chegada por volta de 2030, "com uma margem de erro de um ano". No manifesto, ele escreveu que os pesquisadores "descobriram uma maneira de fazer a areia pensar", chamando isso de "milagroso"

As mentes mais brilhantes do mundo das criptomoedas já leem nossa newsletter. Quer participar? Junte-se a elas.