O chefe de IA da Microsoft promete interromper o desenvolvimento se a tecnologia representar um risco existencial.

Mustafa Suleyman, chefe da área de inteligência artificial para o consumidor da Microsoft, afirma que interromperá completamente o desenvolvimento se a IA avançada representar uma ameaça à segurança humana.

Em entrevista ao programa The Mishal Husain Show, da Bloomberg, Mustafa prometeu que o foco da Microsoft é construir superinteligência alinhada aos interesses humanos, e não buscar poder bruto a qualquer custo.

“Não vamos continuar a desenvolver um sistema que tenha potencial para fugir do nosso controle”, disse Mustafa durante a entrevista. Ele acrescentou que essa posição não deveria ser controversa, considerando-a óbvia, embora acredite que ainda seja rara no setor de IA.

A Microsoft recupera a liberdade para construir sistemas avançados de IA.

Mustafa ingressou na Microsoft no início do ano passado, depois que a empresa adquiriu a propriedade intelectual e grande parte da equipe por trás de sua startup, a Inflection AI, após abandonar a OpenAI em busca de ferramentas de IA voltadas para o consumidor.

Após a aquisição, Mustafa recebeu a missão de desenvolver produtos que pudessem competir diretamente com os modelos maistronjá existentes no mercado.

Durante grande parte desse tempo, seu trabalho teve limitações. Os termostracvinculados à parceria da Microsoft com a OpenAI impediram a empresa de desenvolver inteligência artificial geral, deficomo sistemas capazes de ter desempenho em nível humano, bem como superinteligência, que superaria as habilidades humanas.

Mustafa afirmou que a Microsoft abriu mão desses direitos em troca de acesso aos modelos mais recentes da OpenAI. Esse acordo também envolveu a construção e o equipamento de centros de dados para a OpenAI pela Microsoft ao longo de vários anos.

Essa estrutura mudou em outubro. Um novo acordo reformulou a relação e devolveu os direitos de desenvolvimento à Microsoft.

Mustafa afirmou que a OpenAI agora possui acordos de infraestrutura com outros parceiros, incluindo SoftBank e Oracle, para construir mais data centers do que a Microsoft estava disposta a investir. "Eles agora têm acordos com a SoftBank e muitas outras empresas – como a Oracle – para construir mais data centers do que a Microsoft queria construir para eles", disse ele. "E, em contrapartida, temos o direito de desenvolver nossa própria IA."

Ele afirmou que a Microsoft se manteve como uma desenvolvedora de IA de propósito geral nos últimos 18 meses, mas agora está se dedicando a trabalhos que podem superar o desempenho humano em diversas tarefas.

“Nos últimos 18 meses, continuamos sendo uma empresa de desenvolvimento de IA de propósito geral, mas agora podemos trabalhar em algumas técnicas e metodologias que têm o potencial de superar o desempenho humano em todas as tarefas”, disse  . “Portanto, é uma mudança para nós.”

Suleyman delineia uma abordagem cautelosa, visto que as ferramentas ainda não estão finalizadas.

No mês passado, Mustafa anunciou formalmente o projeto de superinteligência em uma postagem de blog que expôs a posição da Microsoft de que tais sistemas devem ser projetados para servir às pessoas. Outros grandes nomes, incluindo a OpenAI e a Anthropic PBC, frequentemente fazem alegações semelhantes sobre segurança e benefícios para a humanidade.

“Cada um tem que decidir o que defende e como age, e eu não quero julgar como estão agindo agora”, disse ele. “Não vejo nenhuma evidência de danos em massa em larga escala.”

Apesar do foco de longo prazo na superinteligência, Mustafa afirmou que o debate atual permanece acadêmico.

Os consumidores esperam assistentes que possam lidar com tarefas como reservar passagens ou organizar planos de compras. Os executivos esperam ganhos de produtividade. Nenhum dos dois grupos chegou lá completamente ainda.

Mustafa citou o assistente virtual Copilot da Microsoft como prova. Ele disse que seus recursos semelhantes a agentes ainda estão sendo testados e nem sempre funcionam como esperado.

“Ainda estamos experimentando”, disse Mustafa. “Mas quando funcionar, será a coisa mais mágica que você já viu.”