A OpenAI defende a criação de um órgão de governança de IA em nível global

A OpenAI afirma que a IA precisa da mesma regulamentação que a energia nuclear e quer que os EUA iniciem a criação de um órgão regulador global para lidar com o tema. 

Conforme relatado pelo Cryptopolitan, isso ocorre enquanto o presidentedent viajava a Pequim para a primeira visita de Estado EUA-China em nove anos, durante a qual a política de IA era esperada na agenda.

Segundo Chris Lehane, vice-dent de assuntos globais da OpenAI, a presença de Trump e Xi na mesma sala representa uma oportunidade rara para que as duas nações construam algo duradouro para a IA.

“A IA, em certo nível, transcende muitas das questões comerciais tradicionais ou predominantes. Existe uma oportunidade real de começar a construir algo globalmente, com a participação potencial de países de todo o mundo, incluindo a China”, disse Chris Lehane durante uma apresentação.

O que é a OpenAI e por que sua opinião sobre política global é tão importante?

A OpenAI é a empresa americana que desenvolveu o ChatGPT, um popular assistente virtual/chatbot usado por centenas de milhões de pessoas todos os dias.

A empresa sempre participou de todos os principais debates sobre sistemas de IA avançados. Seu CEO, Sam Altman, costuma se reunir com chefes de Estado para discutir IA e até mesmo presta depoimento perante o Congresso, o que confere à empresa uma influência significativa sobre a política global de IA.

A OpenAI também está envolvida em uma batalha judicial separada, após o CEO da Tesla, Elon Musk, processar a empresa em 2024. Musk é um dos fundadores originais da OpenAI e afirma que Sam Altman e outros executivos contrariaram a missão sem fins lucrativos da empresa e a transformaram em uma organização com fins lucrativos. 

O julgamento ainda está em andamento, mas a notícia mais importante desta semana está acontecendo em Pequim.

O que a OpenAI propôs e qual é a comparação com a AIEA?

O vice-dent de Assuntos Globais da OpenA, Chris Lehane, propôs unir duas coisas para criar algo novo.

Ele quer que o Centro de Padrões e Inovação em IA e os institutos de segurança de IA se unam para construir uma rede global. Ele usou a Agência Internacional de Energia Atômica (AIEA) como exemplo de como os países conectaram seus órgãos reguladores nucleares em uma única entidade. 

O Centro de Padrões e Inovação em IA do Departamento de Comércio dos EUA é um órgão governamental que cria padrões técnicos para sistemas de IA. 

Ao mesmo tempo, países estão criando institutos de IA em todo o mundo. Por exemplo, o Reino Unido tem um, a UE está desenvolvendo estruturas e vários governos asiáticos também estão trabalhando em órgãos semelhantes. 

Lehane afirmou que um órgão unificado para IA ajudará a construir sistemas mais seguros e resilientes, menos suscetíveis a ataques. Ele também defende que o governo dos EUA torne obrigatório que os pesquisadores do país testem os modelos de IA mais poderosos antes de implementá-los. 

O que é o modelo Mythos e por que ele incomoda tanto Washington quanto Pequim?

Mythos é um novo e poderoso modelo de IA que encontrou “milhares” de vulnerabilidades graves em sistemas operacionais e outros softwares. O Mythos foi desenvolvido pela Anthropic (empresa de segurança de IA apoiada pelo Google e pela Amazon).

A dimensão do que o Mythos é capaz de fazer chocou o mundo, com bancos e governos se mobilizando para reforçar suas defesas de segurança após o anúncio. Autoridades da Casa Branca chegaram a reconhecer que modelos como o Mythos tornavam a comunicação com a China mais importante do que nunca. 

A China foi impedida de ter acesso antecipado a uma prévia do Mythos, o que levanta preocupações sobre a capacidade dos desenvolvedores e do governo do país de se defenderem contra ataques que utilizam o modelo de IA. 

A empresa de inteligência de mercado IDC China chegou a alertar que deixar a China de fora do Mythos poderia criar uma "lacuna geracional" nas capacidades de defesa de IA entre a China e o Ocidente. 

Segundo pesquisadores, os atacantes poderiam usar IA avançada para projetar armas biológicas, provocar crises financeiras ou agir de forma autônoma, sem controle humano. O mais assustador é que a IA só precisa ser poderosa, rápida e direcionada para o lado errado para fazer tudo isso. 

O que aconteceu no encontro entre Trump e Xi, e o que foi discutido?

A delegação dos EUA à China incluía o CEO da Nvidia, Jensen Huang, e o principal assessor de política tecnológica da Casa Branca, Michael Kratsios. A presença deles na viagem tornou o encontro uma prioridade e uma questão urgente, já que ambos os lados estavam preparados para discutir diretamente questões de IA. 

A China propôs um diálogo formal sobre questões de IA, liderado pelo Secretário do Tesouro, Scott Bessent , e pelo Vice-Ministro das Finanças, Liao Min. No entanto, as expectativas para esse canal são baixas, pois nenhuma das agências é especializada em IA.

Os EUA também planejavam expressar preocupação com o fato de desenvolvedores chineses estarem usando resultados de modelos avançados de IA para construir sistemas a um muito menor custo

Ambos os lados também discutiram a possibilidade de estabelecer uma linha direta sem atribuição de culpa para relatardentsuspeitos relacionados à IA, semelhante às linhas diretas militares.

Analistas chegaram a sugerir que ambos os governos poderiam se comprometer com diretrizes para modelos de IA de ponta, semelhantes ao Acordo de Segurança Cibernética.

Por fim, as discussões também poderiam abordar o MATCH Act, uma proposta de lei americana que visa limitar o acesso da China às cadeias de suprimento de semicondutores. 

Sun Chenghao, da Universidade de Tsinghua, participou das negociações entre os EUA e a China sobre IA e afirmou que os EUA deveriam traçar uma linha clara entre gerenciar os riscos de segurança da IA e simplesmente tentar bloquear o desenvolvimento tecnológico da China. 

“A China provavelmente espera que os EUA façam a distinção adequada entre governança da IA e contenção tecnológica”, disse Sun Chenghao.