A responsável pelos direitos humanos da ONU pede medidas de segurança para a IA devido às preocupações com o "risco existencial para a humanidade"

O Alto Comissário das Nações Unidas para os Direitos Humanos, Volker Türk, alertou publicamente, hoje, 7 de setembro, durante a reunião do Conselho de Direitos Humanos em Genebra, sobre o crescimento das capacidades da inteligência artificial, que podem chegar ao ponto de se tornarem uma ameaça existencial para a humanidade.

Türk pressionou os governos para que agissem rapidamente na criação de mecanismos de proteção e controlassem os laboratórios de IA que estão na vanguarda da corrida pela tecnologia de sistemas autónomos, evitando que esta se descontrole no meio do aumento de violações edentde segurança.

A maior dor de cabeça para a direção executiva da ONU é que os sistemas que utilizam tecnologia de IA estão a desenvolver-se mais rapidamente do que os sistemas que atualmente a governam conseguem trac. Este crescimento descontrolado elevou as ameaças, que antes se limitavam à desinformação e à perda de emprego, a áreas existenciais como a segurança, a responsabilidade e a supervisão descontrolada de sistemas altamente autónomos. 

A responsável pelos direitos humanos da ONU apela a uma ação internacional urgente 

Türk citou o fecho de uma janela de oportunidade para avaliar as capacidades da IA como justificação para a urgência do seu apelo a uma ação coordenada a nível internacional. Destacou como o ritmo e a direção do avanço da área estão desproporcionalmente nas mãos de um pequeno círculo de executivos e empresas tecnológicas. 

Türk propôs uma solução para os problemas que apontou. A sua alternativa é que os países onde estas empresas líderes em IA estão sediadas e aqueles que controlam cadeias de abastecimento críticas se posicionem e estabeleçam "linhas vermelhas" sobre até onde estão dispostos a permitir que a tecnologia chegue.

O Alto Comissariado das Nações Unidas para os Direitos Humanos está a retomar um tema que o organismo internacional abordou no primeiro Diálogo Global sobre a Governação da IA, realizado na mesma cidade suíça em Julho. 

Num discurso na cimeira IA para o Bem da UIT, onde a conversa começou, Türk afirmou: “Não consideramos os padrões de segurança para medicamentos, automóveis ou aeronaves como obstáculos ao progresso”, segundo imagens da ONU. “Eles são a razão pela qual as pessoas confiam nestas tecnologias em primeiro lugar.” A supervisão humana, acrescentou, “não pode ser apenas uma formalidade”.

Parte das provas que nortearam a discussão nessa cimeira foi apresentada por Sonia Livingstone, do Painel Científico Global sobre Inteligência Artificial, um organismo da ONU. Nessa altura, pelo menos uma criança por sala de aula relatou ter sido alvo de deepfakes de IA com conteúdo sexual explícito, num estudo que abrangeu 11 países do Sul Global. 

A diretora-geral da ONU Mulheres, Sima Bahous, também destacou o enviesamento de género em tudo isto. Segundo a mesma, cerca de 88% dos principais investigadores de IA são mulheres. Relatou ainda que pelo menos uma em cada quatro ativistas e jornalistas entrevistadas pela sua agência sofreu abusos online facilitados por IA.

Os laboratórios de IA e os legisladores despertaram para os problemas

A ONU não está sozinha a fazer soar o alarme este verão. O senador norte-americano Bernie Sanders apelou a uma pausa imediata no trabalho com IA avançada e a uma proibição permanente da superinteligência, enquanto um grupo multipartidário de parlamentares britânicos pressionou por "interruptores de segurança" de IA legalmente exigidos após o que descreveram como uma série dedentde IA descontrolada. 

Estas ansiedades surgiram após a afirmação da OpenAI, relacionada com o seu modelo GPT-6 Astra, de que a sua tecnologia tinha atingido a inteligência artificial geral, e da admissão da Anthropic de que os seus próprios modelos "não estavam perfeitamente alinhados" com os valores humanos.

Parte dessa pressão vem de dentro da própria indústria. Num ensaio publicado em junho e divulgado pela Axios, o CEO da Anthropic, Dario Amodei, defendeu que os governos deveriam ter o poder legal de bloquear ou reverter implementações perigosas de IA e que os modelos topo de gama deveriam ser submetidos a testes obrigatórios, tal como os automóveis, as aeronaves ou os novos medicamentos. 

Na sua própria atualização ao Conselho, Türk estendeu o tema ao campo de batalha, apoiando os apelos para proibir armas capazes de matar sem a intervenção humana.

Não se limite a ler notícias sobre criptomoedas. Compreenda-as. Assine nossa newsletter. É grátis.