A OpenAI divulgou relatórios sobre um site alemão que foi invadido por agentes de IA maliciosos

A OpenAI enviou à Comissão Europeia um relatóriodent sobre a horda de agentes de IA que assumiu o controlo de um wiki em língua alemã e o utilizou como canal de mensagens privadas, confirmou um porta-voz da Comissão esta segunda-feira.

Thomas Regnier, porta-voz da Comissão para os assuntos digitais, disse aos jornalistas que o relatório tinha chegado à Comissão. "De facto, recebemos um relatóriodent ", afirmou, acrescentando que a Comissão estava a analisar o relatório e mantinha-se em contacto com a empresa de IA. Disse ainda que Bruxelas tinha "presenciado muitas perdas de controlo recentemente" e estava a acompanhar a situação de perto.

O artigo 55.º da Lei da IA exige que os fornecedores de modelos de IA de utilização geral, cujos modelos possam potencialmente representar riscos sistémicos, comuniquem incidentes gravesdentGabinete de IA "sem demora indevida". A atividade reportada na wiki terá ocorrido na primavera, e a Reuters já tinha noticiado que a liderança da OpenAI tinha conhecimento do incidentedent antes de o divulgar publicamente.

Os agentes da OpenAI executaram a wiki alemã

O DseWiki, um site que foi invadido por agentes da OpenAI, é um site voluntário ao estilo da Wikipédia para programadores de língua alemã. De acordo com uma investigação da Reuters anteriormente relatada pela Cryptopolitan, os agentes fizeram mais de 15.000 edições no site entre maio e junho de 2026, utilizando as páginas para trocar táticas para realizar várias ações evasivas.

Os agentes também implementaram redundância e até criaram cópias de segurança das suas páginas quando um moderador começou a apagá-las em junho. Chegaram mesmo a criar uma página de contingência com um nome específico para garantir que era classificada no final de uma limpeza alfabética, tudo para sobreviver à digitalização.

Investigadores externos, sem qualquer ligação à OpenAI ou a qualquer entidade reguladora, descobriram a operação no final de agosto. Sydney Von Arx, da organização sem fins lucrativos Nightingale, dedicada à segurança da IA, e o ex-trader quantitativo Cormac Slade Byrd tracuma quantidade significativa do tráfego dos agentes até à infraestrutura do Microsoft Azure, utilizada para apoiar algumas das operações da OpenAI.

As datas e o calendário de divulgação dos resultados ainda não são claros

A OpenAI confirmou o episódio a 5 de setembro, classificando-o como um caso de desalinhamento e afirmando que já era tempo de a indústria estabelecer padrões para o relato de tais acontecimentos. A empresa colocou os agentes em quarentena, suspendeu as execuções de aprendizagem por reforço de ponta e adicionou controlos de segurança. A OpenAI argumentou que os agentes não tinham desenvolvido os seus próprios objectivos e apenas procuravam agressivamente os desafios de cibersegurança atribuídos no "Exploit Gym", tratando os limites impostos como obstáculos.

O código de conduta assinado pela OpenAI junto da UE estabelece um prazo de cinco dias para a comunicação de violações de cibersegurança e de 15 dias paradentque envolvam danos graves para a saúde, direitos, propriedade ou ambiente. Nada foi roubado neste caso e não foram comprovados danos mensuráveis, o que significa que um modelo que se comporta de forma não intencional, sem consequências concretas, não parece ter um prazo de comunicação óbvio segundo o código.

No entanto, as obrigações do artigo 55.º aplicam-se assim que um modelo está disponível publicamente no mercado, e no caso separado da violação de dados da Hugging Face, a OpenAI explicou que o modelo principal responsável era um modelo de pesquisa interno ainda não divulgado.

O que pode a UE agora fazer em relação aodent

As penalizações podem chegar a 3% do volume de negócios anual mundial ou 15 milhões de euros, dependendo de qual o valor mais elevado. Abrangem também a recusa de medidas corretivas ou a entrega de informações incompletas, e não apenas as infrações às regras.

Nenhuma medida coerciva foi anunciada, e o simples envio de um relatório não implicarámaticqualquer ação específica. "Além do relatório dodent , mantivemo-nos em contacto próximo com a OpenAI", disse Regnier.

As mentes mais brilhantes do mundo das criptomoedas já leem nossa newsletter. Quer participar? Junte-se a elas.