A DeepSeek prepara-se para apresentar um relatório ao Conselho de Segurança da ONU sobre os riscos da IA

A startup chinesa de IA, DeepSeek, foi convidada a apresentar um relatório ao Conselho de Segurança da ONU sobre os riscos da inteligência artificial numa sessão na quarta-feira, 23 de setembro, trazendo uma das principais empresas de desenvolvimento de IA da China para um fórum focado na segurança internacional.

O conselho de 15 membros vai reunir-se em Nova Iorque durante a semana anual de alto nível da Assembleia Geral da ONU. O CEO da OpenAI, Sam Altman, deverá estar presente, sendo também esperados representantes seniores da área de investigação e desenvolvimento, segundo a Reuters. O fundador da DeepSeek, Liang Wenfeng, não planeia participar.

DeepSeek entra num tipo diferente de debate sobre IA

O Conselho de Segurança concentra-se normalmente nas ameaças à paz e à segurança internacionais, pelo que trazer os programadores do DeepSeek para discussões com alguns dos modelos de IA mais avançados do mundo coloca a tecnologia firmemente no centro dos debates sobre segurança global.

Esta também não é a primeira vez que o conselho discute a IA. Os membros mencionaram o assunto pela primeira vez em 2023, quando a China alertou que a IA não se deveria tornar um "cavalo descontrolado", enquanto os EUA advertiram contra o uso da tecnologia para censurar ou reprimir pessoas.

O debate tornou-se mais polarizado, com o CEO da Anthropic, Dario Amodei, a defender recentemente uma desaceleração coordenada no desenvolvimento de IA de ponta, posição apoiada por Elon Musk. O CEO da Meta, Mark Zuckerberg, e o CEO da Nvidia, Jensen Huang, por outro lado, defendem que o desenvolvimento da IA deve continuar sem qualquer tipo de abrandamento.

A governação da IA torna-se mais uma linha divisória entre os EUA e a China

Washington e Pequim continuam bastante divididos e em desacordo sobre a forma como a IA deve ser governada e a velocidade com que a tecnologia deve avançar, e a reunião do Conselho de Segurança da ONU decorre mesmo no meio deste conflito.

O secretário-geral da ONU, António Guterres, alertou que o ritmo acelerado do desenvolvimento da IA traz consigo riscos que não podem ser ignorados, enquanto odent dos EUA, Donald Trump, defendeu que as salvaguardas existentes são suficientes.

Os meios de comunicação social estatais chineses descreveram os apelos para uma desaceleração como uma "estratégia da Guerra Fria" concebida para manter o domínio dos EUA em tecnologia avançada e impedir Pequim de participar na formulação de regras globais sobre IA, como foi anteriormente noticiado pela Cryptopolitan.

Os dois lados também divergem na forma como discutem abertamente os riscos da IA. Os executivos chineses de alto nível da área da IA têm-se geralmente manifestado pouco publicamente sobre a possibilidade de sistemas cada vez mais sofisticados enganarem os utilizadores, escaparem ao controlo humano ou causarem danos generalizados. Os seus homólogos americanos, por outro lado, têm sido muito mais vocais sobre estes riscos.

Washington e Pequim ainda estão a conversar

Apesar da discordância sobre os principais padrões operacionais, os dois países continuam a manter discussões nos bastidores sobre o assunto.

O secretário do Tesouro dos EUA, Scott Bessent, afirmou na segunda-feira que altos funcionários norte-americanos e chineses concordaram em realizar novas conversações sobre a segurança da inteligência artificial. O acordo surgiu após uma reunião que antecedeu o esperado encontro entre Trump e odent chinês Xi Jinping em Washington, ainda esta semana.

Estes acontecimentos colocam a presença da DeepSeek no Conselho de Segurança no centro de um debate muito mais amplo, que envolve não só as empresas de IA, mas também as abordagens concorrentes das duas maiores potências tecnológicas do mundo em relação aos riscos, regras e direção futura da tecnologia de IA.

As mentes mais brilhantes do mundo das criptomoedas já leem nossa newsletter. Quer participar? Junte-se a elas.