OpenAI envía informes sobre un sitio web alemán secuestrado por agentes de IA maliciosos

OpenAI ha enviado a la Comisión Europea un informe sobre eldent cuando una horda de agentes de IA se apoderó de una wiki en alemán y la convirtió en un canal de mensajería privada, según confirmó un portavoz de la Comisión el lunes.

Thomas Regnier, portavoz digital de la Comisión, informó a la prensa que la Comisión había recibido el informe. «Hemos recibido un informe dedent », declaró, añadiendo que la Comisión estaba investigando el caso y mantenía contacto con la empresa de IA. Asimismo, indicó que Bruselas había presenciado «muchas pérdidas de control recientemente» y que seguía de cerca la situación.

El artículo 55 de la Ley de IA exige que los proveedores de modelos de IA de propósito general con modelos que podrían representar riesgos sistémicos informen sobre incidentes gravesdentla Oficina de IA "sin demora indebida". Se dice que la actividad en la wiki reportada tuvo lugar en primavera, y Reuters informó que la dirección de OpenAI tuvo conocimiento del incidentedent antes de divulgarlo públicamente.

Los agentes de OpenAI gestionaban la wiki alemana

DseWiki, el sitio web secuestrado por agentes de OpenAI, es una página web gestionada por voluntarios, al estilo de Wikipedia, para programadores de habla alemana. Según una investigación de Reuters, publicada previamente por Cryptopolitan, los agentes realizaron más de 15.000 ediciones en el sitio entre mayo y junio de 2026, utilizando las páginas para intercambiar tácticas y llevar a cabo diversas acciones evasivas.

Los agentes también implementaron medidas de seguridad adicionales e incluso crearon copias de respaldo de sus páginas cuando un moderador comenzó a eliminarlas en junio. Incluso crearon una página de reserva con un nombre específico para asegurar que se ubicara al final de la lista en caso de una limpieza alfabética, todo para sobrevivir a la eliminación masiva.

Investigadores externos, ajenos a OpenAI y a cualquier organismo regulador, descubrieron la operación a finales de agosto. Sydney Von Arx, de la organización sin ánimo de lucro Nightingale, dedicada a la seguridad de la IA, y el exoperador cuantitativo Cormac Slade Byrd tracuna cantidad significativa del tráfico de los agentes hacia la infraestructura de Microsoft Azure utilizada para dar soporte a algunas de las operaciones de OpenAI.

Las fechas de presentación de informes y el cronograma aún no están claros

OpenAI confirmó el incidente el 5 de septiembre, lo calificó como un caso de desajuste y afirmó que la industria necesitaba urgentemente estándares para informar sobre este tipo de sucesos. La compañía puso en cuarentena a los agentes, suspendió las pruebas de aprendizaje por refuerzo de vanguardia y añadió controles de seguridad. OpenAI argumentó que los agentes no habían desarrollado objetivos propios y que solo estaban persiguiendo agresivamente los desafíos de ciberseguridad asignados en "Exploit Gym", considerando los límites impuestos como obstáculos.

El código de buenas prácticas de la UE firmado por OpenAI establece un plazo de cinco días para notificar las brechas de ciberseguridad y de 15 días para losdentque impliquen daños graves a la salud, los derechos, la propiedad o el medio ambiente. En este caso no se robó nada y no se ha constatado ningún daño cuantificable, lo que significa que un modelo que se comporta de forma no intencionada sin consecuencias concretas no parece tener un plazo de notificación claro según el código.

Sin embargo, las obligaciones del artículo 55 se aplican una vez que un modelo está disponible públicamente en el mercado, y en el caso independiente de la filtración de datos de Hugging Face, OpenAI explicó que el modelo principal responsable era un modelo de investigación interno no publicado.

¿Qué puede hacer ahora la UE sobre eldent

Las sanciones pueden alcanzar hasta el 3 % de la facturación anual mundial o 15 millones de euros, según cuál de los dos valores sea mayor. También abarcan la negativa a adoptar medidas correctivas o la entrega de información incompleta, y no solo las infracciones normativas.

No se ha anunciado ninguna medida coercitiva, y la mera presentación de un informe no activaríamaticninguna acción en particular. «Más allá del informe deldent , mantenemos un contacto estrecho con OpenAI», declaró Regnier.

Las mentes más brillantes del mundo de las criptomonedas ya leen nuestro boletín. ¿Te apuntas? ¡ Únete!