O rei Carlos alerta os líderes da IA ​​para que assumam o controlo antes que seja "tarde demais"

Durante uma cimeira realizada na Escócia, o Rei Carlos III disse aos líderes das maiores empresas de IA do mundo que devem encontrar formas de manter a tecnologia sob controlo humano. 

O rei alertou que as pessoas que o construíram temem agora que possa desenvolver "capacidades mais sombrias" e até ser usado para matar. 

O que tem o Rei Carlos III a dizer sobre a Inteligência Artificial? 

O rei Carlos III discursou em Dumfries House, em East Ayrshire, num encontro organizado pela Fundação Ditchley que reuniu cerca de 30 executivos, autoridades e investigadores, incluindo o ministro britânico da IA, Kanishka Narayan, o diretor executivo da Nvidia, Jensen Huang, o cofundador da DeepMind, Demis Hassabis, a diretora financeira da OpenAI, Sarah Friar, e o responsável de assuntos globais da Anthropic, Tino Cuéllar.

A lista de convidados privados vista pela Bloomberg incluía ainda, segundo consta, nomes como o do responsável do MI6, Blaise Metreweli, o do escritor Yuval Noah Harari e o de Xue Lan, da Universidade de Tsinghua.

Charles, de 77 anos, falou apenas cerca de 20 minutos antes de sair da sala para o que esperava serem conversas produtivas. Aqueles que valorizam o núcleo moral da humanidade, disse, estão “ansiosamente a procurar a sua garantia de que não perderemos o controlo do nosso destino, nem das nossas almas”.

Charles descreveu o ritmo da tecnologia como "intrigante e profundamente preocupante na mesma medida". Reconheceu e elogiou o seu historial na medicina e nas ciências da vida, antes de colocar uma questão direta: "Certamente, precisamos de meios de controlo suficientes antes que seja tarde demais?"

No seu alerta, o Rei fez referência às preocupações dos criadores da tecnologia de IA. Afirmou ainda que os sistemas correm o risco de "desenvolver capacidades mais sombrias, talvez até capazes de tirar vidas". Acrescentou ainda que os executivos deveriam considerar os "perigos existenciais" de estas ferramentas caírem em mãos erradas. 

Anteriormente, Charles enviou uma mensagem em vídeo para a Cimeira de Segurança de IA do Reino Unido de 2023 em Bletchley Park, expressando sentimentos semelhantes. 

O conselheiro do Vaticano para a IA, Paolo Benanti, esteve presente na Cimeira, e o Papa Leão XIV escreveu numa encíclica de Maio que a IA não deve permanecer nas mãos "de poucos"

O desenvolvimento da IA irá abrandar? 

Hassabis disse aos delegados que a inteligência artificial geral — sistemas capazes de igualar ou superar os humanos em diversas tarefas — “estará provavelmente disponível dentro de poucos anos” 

Afirmou que a tecnologia poderia ter um impacto potencial dez vezes superior ao da Revolução Industrial. As probabilidades de algo correr mal, acrescentou, eram “definão nulas”, embora tenha concluído dizendo que “o futuro ainda não está escrito”

Friar afirmou que o crescente poder da tecnologia levanta questões sobre como mantê-la ao serviço das pessoas e que "nenhuma empresa ou governo pode fazê-lo sozinho" 

Huang, cuja Nvidia está avaliada em cerca de 5,15 triliões de dólares, disse à audiência que a segurança era primordial e que um produto deveria ser retido se não estivesse pronto. Defendeu a regulamentação dos produtos de IA em vez da própria tecnologia e defendeu os modelos abertos como forma de evitar que países e investigadores mais pequenos fossem excluídos.

A cimeira surge após uma publicação viral que pede a demissão do investigador de ciências antropológicas Jacob Coxon e uma previsão do seu colega, Evan Hubinger, de que a inteligência artificial tem 10% de hipóteses de causar a extinção da humanidade, o que gerou preocupação.

Cryptopolitan noticiou que Dario Amodei, da Anthropic, publicou um ensaio a incentivar os laboratórios a "liderar a fronteira" e que a OpenAI lançou esta semana um sistema que divulgaria a má conduta dos modelos depois de registar seis incidentesdentcomportamento preocupante. 

No entanto, nem todos concordam que o perigo seja real: odent Donald Trump classificou estes receios de "farsa"

Se você está lendo isto, já está um passo à frente. Continue assim assinando nossa newsletter.