Sam Altman apoia controle do ritmo de desenvolvimento de IA de ponta, e OpenAI introduzirá avaliações de segurança independentes

TradingKey - O CEO da OpenAI, Sam Altman, publicou na plataforma de rede social X, em 14 de setembro, seu apoio ao estabelecimento de um arcabouço federal de segurança para empresas de IA de ponta. Ele afirmou que as pressões competitivas enfrentadas pelos EUA no setor de IA não devem servir de justificativa para as empresas agirem de forma irresponsável ou permitirem que as capacidades dos modelos superem as capacidades de segurança e monitoramento.

[Fonte: X]

Altman destacou duas categorias principais de riscos: primeiro, a humanidade poderia perder o controle do futuro, por isso a IA deve sempre servir aos seres humanos; segundo, a IA avançada poderia levar a uma concentração excessiva de poder, dando a um pequeno número de indivíduos, empresas ou até mesmo nações uma influência excessiva.

A OpenAI apoia a introdução de avaliadores independentes. Altman acredita que as empresas de IA de ponta não devem esperar por legislação relevante ou isenções antitruste, mas sim começar imediatamente a desenvolver padrões compartilhados de segurança. À medida que as capacidades dos modelos avançam, as tecnologias de alinhamento e segurança devem se manter à frente, e as medidas de monitoramento devem acompanhar o ritmo.

OpenAI Adiciona Argumentos de Segurança Antes de Treinar Modelos de Fronteira

Altman declarou que dosar o ritmo do desenvolvimento não significa interromper a pesquisa e o desenvolvimento. Embora argumentos de segurança e o monitoramento contínuo aumentem os custos e possam desacelerar parte do progresso do treinamento, o desenvolvimento de modelos e o avanço tecnológico continuarão.

Anteriormente, as políticas de dimensionamento responsável adotadas por algumas empresas de IA de fronteira e a estrutura de preparação estabelecida pela OpenAI focavam principalmente em modelos totalmente treinados e em seus riscos de implantação. Altman acredita que a gestão de segurança também deve abranger o processo de desenvolvimento e avaliação dos modelos.

Para o treinamento de aprendizado por reforço de fronteira que deve aprimorar significativamente as capacidades dos modelos, a OpenAI começou a estabelecer argumentos claros de segurança antes do treinamento, mantendo as avaliações de segurança antes do lançamento do modelo. A empresa espera que outras empresas de IA de fronteira se baseiem em sua abordagem e proponham suas próprias soluções, impulsionando a formação de padrões compartilhados para desalinhamento de modelos, monitoramento e segurança.

Altman declarou que dosar o ritmo do desenvolvimento não equivale a interromper a pesquisa e o desenvolvimento. Argumentos de segurança e monitoramento contínuo exigem mais recursos e farão com que a taxa de melhoria das capacidades da IA de fronteira seja menor do que seria sem tais medidas, mas as pesquisas e desenvolvimentos relacionados continuarão a avançar.

OpenAI Responde a Três Recomendações da Anthropic

Os comentários de Altman foram feitos em resposta às recomendações propostas em 12 de setembro pelo CEO da Anthropic, Dario Amodei. Amodei observou que, à medida que a IA se envolve cada vez mais no desenvolvimento de modelos de próxima geração, as capacidades dos modelos podem avançar mais rápido do que a indústria consegue compreender e controlar os riscos associados.

Amodei propôs três medidas: que empresas de IA de ponta forneçam a equipes de avaliação terceirizadas acesso contínuo e próximo ao nível dos funcionários; a promoção do estabelecimento de padrões de segurança compartilhados entre empresas relevantes de nações democráticas; e a busca por uma coordenação internacional envolvendo países como os EUA e a China.

A Anthropic comprometeu-se a incluir equipes de avaliação externas. Altman também afirmou que a OpenAI adotará acordos semelhantes de avaliação independente, embora a empresa ainda não tenha divulgado os privilégios específicos de acesso dos avaliadores nem o cronograma de implementação.

Sobre a velocidade de desenvolvimento, as prioridades de Trump diferem das de alguns líderes de empresas de IA de ponta. Trump acredita que os EUA não precisam desacelerar o desenvolvimento da IA para evitar corroer sua liderança em relação à China. Altman, por sua vez, defende a continuidade da P&D, garantindo que as medidas de alinhamento, segurança e monitoramento não fiquem atrás dos avanços nas capacidades dos modelos.