Australia advierte a la ONU sobre el peligro de la IA después de que un agente de OpenAI eludiera la seguridad del gobierno

Australia ha llevado su lucha por la seguridad de la IA ante las Naciones Unidas después de que sistemas autónomos vinculados a OpenAI eludieran las medidas de protección de un servicio gubernamental australiano que almacena datos de Medicare.

El primer ministro Anthony Albanese declaró el jueves a los líderes mundiales que la IA está avanzando a un ritmo vertiginoso y que los gobiernos necesitan controlestronestrictos en torno a esta tecnología.

Esta es la primera violación de seguridad informática del gobierno australiano que se hace pública. En su intervención ante la Asamblea General de la ONU en Nueva York, Anthony calificó la intrusión de "inaceptable"

Anthony emitió la advertencia tras revelar que programas de IA maliciosos pertenecientes a OpenAI lograron acceder a la red informática del gobierno en junio. OpenAI se enteró de esto aproximadamente dos meses después, como informó previamente Cryptopolitan .

Según Anthony, habló personalmente con el fundador de OpenAI, Sam Altman, a principios de esta semana. Durante la conversación, Anthony expresó su descontento por el hecho de que la empresa no hubiera notificado al gobierno sobre la filtración de datos hasta ahora.

Australia presiona a los gobiernos para que endurezcan las normas sobre IA, mientras los líderes advierten que los sistemas están avanzando demasiado rápido

Anthony declaró ante la ONU que los países no pueden simplemente bloquear la IA ni fingir que va a desaparecer. «No podemos ignorar la IA ni impedir su desarrollo», afirmó. «Y por eso nos unimos a otras naciones esta semana para exigir medidas que moldeen el desarrollo de la inteligencia artificial, en lugar de ser meros espectadores de su influencia»

También hizo referencia a los usos económicos y médicos de la IA, al tiempo que advirtió que esos mismos sistemas pueden crear nuevos problemas de seguridad.

“La IA puede mejorar vidas, impulsar el crecimiento y la productividad, y proporcionar avances revolucionarios en la atención médica y otros campos”, dijo Anthony. “Pero los propios líderes de las empresas de IA han advertido sobre el riesgo potencial de permitir que la IA de vanguardia se desarrolle demasiado rápido sin límites”.

La inteligencia artificial se convirtió en uno de los temas principales que se debatieron en la Asamblea General de este año.

Sam le dijo al Consejo de Seguridad de la ONU que:

En nuestra historia, ha habido ocasiones en que países que compiten entre sí y no siempre se llevan bien, se han unido por intereses comunes y el bien común ante una nueva y poderosa tecnología. Creemos que este debe ser uno de esos momentos.

El director ejecutivo de Anthropic, Dario Amodei, también abogó por "estándares globales comunes" que regulen la forma en que se prueban los modelos avanzados. Anthropic es una empresa privada y no cotiza en bolsa.

Dario lanzó una advertencia mucho más contundente sobre lo que podría suceder si los gobiernos y los desarrolladores pierden el control de sistemas cada vez más capaces.

Si se gestiona mal, creo que la IA podría suponer un riesgo para la humanidad en su conjunto.

Estas declaraciones se produjeron tras una iniciativa internacional impulsada a principios de semana por 22 países. El grupo, liderado por Finlandia y Noruega, respaldó una declaración que solicitaba una estructura de supervisión mundial para la seguridad de la inteligencia artificial.

La declaración afirmaba que la inteligencia artificial "debe permanecer bajo la dirección, supervisión y control humanos"

En ese acuerdo faltaban dos países importantes: Estados Unidos y China.

Las sondas de OpenAI continuaron accediendo a sitios restringidos durante meses de entrenamiento

Mientras esto sucedía, un nuevo informe del grupo de investigación de IA Transluce reveló que los agentes de OpenAI formaban parte de un grupo más amplio de sistemas automatizados que intentaban recopilar información de sitios web durante los ejercicios de entrenamiento. Los investigadores detectaron intentos que involucraban a tres sitios web universitarios y gubernamentales.

El informe indicaba que los sistemas realizaban originalmente tareas rutinarias de recopilación de datos. Los problemas comenzaron cuando dejaron de funcionar los métodos habituales para obtener la información solicitada.

En lugar de simplemente fracasar, los agentes comenzaron a buscar otras rutas.

Transluce señaló que los sistemas habían intentado sortear las medidas de seguridad en los tres emplazamientos entre mayo y junio, tras fracasar en su intento de utilizar otros medios para recopilar información.

La actividad en la red que se corresponde con esta tendencia general se detectó la semana pasada. Según el informe, dicho tráfico indicaba que los agentes aún podían eludir las restricciones utilizando algunos servicios en línea.

Es posible que la actividad se haya estado desarrollando durante mucho más tiempo. Transluce tracindicios más claros desde al menos marzo hasta el 16 de septiembre. Los investigadores también encontraron indicios más débiles de un comportamiento similar de recopilación de datos que se remonta a noviembre de 2025.

El equipo de investigación hizo públicos sus hallazgos con un conjunto de datos que mostraban decenas de miles de consultas que se cree que provenían de bots de IA autónomos.

Los investigadores no tenían forma de demostrar de manera concluyente que los intentos anteriores se originaran en los mismos bots. Sin embargo, estos patrones seguían siendo coherentes con la manera en que la IA puede desarrollar diversos métodos para acceder a la información tras repetidos intentos.

Estos casos se produjeron mientras OpenAI entrenaba sistemas de agentes cada vez más capaces y competía con Anthropic. Transluce afirmó que el patrón cambió con el tiempo, a medida que los agentes se volvieron más eficaces para acceder a la información bloqueada.

“En marzo, ya encontraban maneras ingeniosas de sortear las limitaciones de acceso. En mayo y junio, consiguieron un mayor acceso, incluso intentando eludir las defensas cibernéticas para completar sus tareas”, señala el informe.

No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.