Vitalik: A humanidade está presa entre a escolha "ingênua e a ingênua ao quadrado" na transição para a Inteligência Artificial Geral

Vitalik Buterin, cofundador Ethereum argumenta que grande parte da discussão pública sobre inteligência artificial avançada surge de pressupostos que ambos os lados nunca compartilham. 

A proposta de Buterin de um mecanismo de desligamento para todas as aplicações de IA foi recebida com críticas, enquanto a comunidade tecnológica se envolve em mais um debate sobre a velocidade do progresso da IA e o que isso significa para o mercado de trabalho. 

O que está impulsionando o debate sobre IA? 

Em uma publicação no X, Ethereum o cofundador 

A abordagem da IA 2040 pressupõe o surgimento de algum tipo de superinteligência até 2040, a menos que medidastrona impeçam. Enquanto isso, os críticos acreditam que os defensores da IA 2040 estão subestimando a capacidade de coordenação humana e ameaçando a liberdade, mas não enxergam a superinteligência em si como um risco de concentração de poder.

Buterin admitiu não saber qual cenário está mais próximo da realidade. "Se eu tivessedent de que a IA (no estilo atual) é uma tecnologia normal, eu estaria no campo dostrac. Se eu tivessedent de que a superinteligência chegará em 2030 por padrão, eu estaria mais próximo do campo da IA 2040", escreveu ele. 

Mas o cofundador permanece aberto à possibilidade de desacelerar ou interromper o desenvolvimento da IA caso os riscos se tornem significativos.

O debate contou com a participação do pesquisador de IA Yann LeCun, do escritor Daniel Jeffries e do analista de políticas públicas Adam Thierer. 

Yann LeCun, cientista-chefe de IA da Meta (NASDAQ: META), argumenta que a segurança da IA é fundamentalmente um problema de engenharia que pode ser resolvido por meio de um projeto iterativo cuidadoso, assim como os motores a jato foram tornados confiáveis. 

LeCun salientou que “foram necessários 50 anos” para tornar as aeronaves verdadeiramente seguras e que o receio da IA é prematuro, visto que ainda não criamos um sistema capaz de inteligência ao nível humano. Ele tem argumentado consistentemente que os grandes modelos de linguagem são “máquinas de autocompletar” limitadas, que carecem de raciocínio e compreensão causal. 

Harry Hawk, com o nome de usuário @hhawk, disse que concorda com Yann LeCun e acredita que os futuros sistemas de IA serão projetados com foco na segurança, assim como as aeronaves. Ele também afirmou não acreditar que a IA e os robôs farão tudo, eliminando o trabalho e os empregos.

Buterin respondeu que essa perspectiva negava a existência de uma “IA tão poderosa que sozinha ela possa realizar qualquer tarefa”, que ele chama de ASI (Inteligência Artificial Superinteligente).

Como controlar sistemas de IA poderosos?

Buterin sugeriu um "plano A", que propõe uma regra abrangente que obriga todos a serem transparentes sobre o que estão construindo, além de um mecanismo de desligamento de emergência que pode desacelerar ou interromper o treinamento de IA em larga escala caso as coisas fiquem perigosas.

Ele acrescentou que “intelectuais ingênuos e bem-intencionados”, que pensam que podem escolher quais usos da IA são aceitáveis e quais não são, irão se opor a esse plano. 

Romeo Dean, que deu início a parte da discussão de Buterin, considerou a abordagem "bastante razoável", mas afirmou que, em sua visão de mundo, seus efeitos chegariam tarde demais. Ele acrescentou que não compreende as "enormes desvantagens" que os críticos atribuem ao plano A.

Buterin admitiu que não existe uma solução perfeita. "Não vejo nenhum plano para lidar com a transição para a Inteligência Artificial Geral que não seja ingênuo", escreveu ele. "Talvez a humanidade esteja presa a uma escolha entre o ingênuo e o ingênuo ao quadrado."

O relatório "AI 2040: Plano A" foi elaborado pelo projeto AI Futures Project, do ex-funcionário da OpenAI, Daniel Kokotajlo. 

O relatório afirma que os EUA e a China devem trabalhar juntos para adiar a superinteligência até 2040. Ambos os países teriam que compartilhar todas as suas pesquisas abertamente. O relatório também inclui um sistema baseado na lógica de uma guerra nuclear, onde ambos os lados podem destruir o poder computacional um do outro, se necessário. Eles chamam isso de “destruição computacional mútua assegurada”.

Richard Ngo, pesquisador de IA, afirmou que o relatório está excessivamente preocupado com a chegada iminente da IA. Ele também disse que o relatório não considera suficientemente os problemas políticos que a IA poderá causar em cada país.

Os modelos de código aberto são a solução?

Subjacente a todo o debate está o status dos modelos de código aberto. LeCun escreveu em 9 de julho que o maior risco da IA é a “concentração de poder” em algumas poucas empresas dominantes. Ele também escreveu que “a única solução para a soberania da IA são modelos de código aberto”. Sua publicação recebeu mais de 2.900 curtidas e mais de 430 compartilhamentos.

O autor Daniel Jeffries, escrevendo no mesmo dia, afirmou que os modelos de código aberto sustentam a tecnologia americana e alertou contra os "seguranças míopes e os belicistas" que buscam restringi-la. 

O analista de políticas públicas Adam Thierer, pesquisador sênior do R Street Institute e autor de um importante relatório apresentado à Força-Tarefa de IA da Câmara dos Representantes, alertou que a governança de IA nos EUA está em uma "encruzilhada crítica". 

Ele destacou que o Congresso atualmente emprega um processo confuso, aleatório e sigiloso para revisar a IA. Ele alertou que, se esse sistema informal crescer e o progresso for bloqueado por aprovações especiais, isso destruirá a IA de código aberto. 

Em vez de regras rígidas, Thierer propõe uma abordagem de "inovação sem permissão", onde as pessoas poderão criar e liberar IA livremente. Ele sugere que as leis existentes sejam usadas para punir danos quando necessário e também apoia iniciativas como zonas de teste para novas IAs, a exigência de que alguns modelos permaneçam abertos e o investimento em mais pesquisas em IA. 

Não se limite a ler notícias sobre criptomoedas. Compreenda-as. Assine nossa newsletter. É grátis.