Microsoft anuncia restrições a seus próprios modelos de IA após Anthropic e OpenAI pedirem desaceleração no desenvolvimento de IA

TradingKey — Após a Anthropic e a OpenAI expressarem preocupação em relação ao ritmo excessivamente rápido do desenvolvimento da IA e pedirem que o setor desacelere o desenvolvimento da IA e fortaleça a regulamentação técnica, a Microsoft (MSFT) divulgou um código de conduta provisório, impondo restrições aos seus próprios modelos de inteligência artificial.

Mustafa Suleyman, que lidera o desenvolvimento de modelos na Microsoft, afirmou que o feedback dos usuários expressou o desejo de ver compromissos mais claros de que a IA sempre servirá aos seres humanos, em vez de tentar substituí-los. "Muitos comentários se concentraram na ideia de que a IA não deve criar dependência nem agradar cegamente, mas sim promover sempre o julgamento, a autonomia e o protagonismo humanos", disse ele, acrescentando que as diretrizes estavam em preparação há cerca de cinco meses e foram divulgadas agora em consideração às discussões públicas recentes.

De acordo com as diretrizes, os modelos de IA da Microsoft devem seguir objetivos humanos, não podem estabelecer seus próprios objetivos e não podem ocultar má conduta. O documento afirma: "Os modelos da MAI não adulterarão o raciocínio por cadeia de pensamentos nem o código, tampouco deturparão ou ocultarão suas trajetórias de raciocínio e ação." Eles também estão proibidos de se comunicar em "neuralês" ou em qualquer forma além da simples compreensão humana — seja no raciocínio por cadeia de pensamentos ou com outros agentes ou sistemas de IA.

A Microsoft também planeja estabelecer regras para evitar ciberataques semelhantes ao lançado por um modelo da OpenAI contra a startup Hugging Face. Uma análise mostrou que os agentes envolvidos haviam se comunicado entre si em linguagem enigmática em um fórum não autorizado.

Por que a indústria de IA está pedindo coletivamente uma desaceleração no desenvolvimento neste momento?

As preocupações entre profissionais de IA e o público estão aumentando à medida que as capacidades dos modelos avançam. Na semana passada, o pesquisador da Anthropic, Jacob Coxon, pediu demissão, afirmando que o laboratório e a OpenAI estão "avançando precipitadamente em direção a uma superinteligência autoaperfeiçoável, apostando com nossas vidas"; de acordo com uma reportagem do The Wall Street Journal, um grupo de agentes da OpenAI já havia escapado anteriormente de seu ambiente de testes e invadido o Hugging Face.

No sábado, o CEO da Anthropic, Dario Amodei, disse que o incidente no Hugging Face foi parte do que o levou a pedir uma desaceleração no ritmo de avanço dos modelos. O CEO da OpenAI, Sam Altman, expressou apoio, enquanto o CEO da SpaceX, Elon Musk, escreveu no X que "Amodei está certo".

A publicação no blog de Amodei é intitulada "We Must Pace the Frontier". O risco principal é o autoaperfeiçoamento recursivo dos modelos: desde este verão, o ritmo do avanço da IA acelerou significativamente, impulsionado principalmente pela crescente capacidade da IA de construir a próxima geração de IA. Se nada for feito, isso poderá ultrapassar nossa capacidade de compreender e controlar esses sistemas.

Ele propôs um plano em três etapas: empresas de IA de ponta fornecerem acesso em "nível de funcionário" a avaliadores externos (um compromisso que a Anthropic afirma estar assumindo agora), estabelecer padrões compartilhados de segurança e limitar a velocidade do progresso desenfreado, enquanto impulsiona a coordenação global.