El debate sobre la regulación de la IA se intensifica: OpenAI y Anthropic piden cooperación internacional mientras Trump se opone a la regulación global

TradingKey - El miércoles, hora local, el CEO de OpenAI, Sam Altman, y el CEO de Anthropic, Dario Amodei, comparecieron sucesivamente ante el Consejo de Seguridad de las Naciones Unidas sobre la seguridad de la inteligencia artificial. Ambas compañías enfatizaron la necesidad de reforzar la cooperación internacional y afirmaron que podrían ralentizar el lanzamiento de sistemas avanzados de IA si se identifican nuevos riesgos de seguridad. En un gesto poco habitual, los CEO de las dos empresas competidoras expresaron posturas de seguridad similares en un foro internacional.

Tan solo un día antes, el presidente de Estados Unidos, Donald Trump, expresó una postura diferente ante la Asamblea General de las Naciones Unidas, oponiéndose a la creación de un marco regulatorio global para la IA y subrayando que Estados Unidos necesita mantener su liderazgo en el campo de la IA. Trump afirmó que Estados Unidos no restringirá el desarrollo de esta tecnología debido a preocupaciones externas sobre los riesgos de la IA.

OpenAI y Anthropic forman un inusual frente unido

Como competidores directos en el mercado de grandes modelos de frontera, resulta inusual que OpenAI y Anthropic expresen públicamente posiciones similares en las Naciones Unidas. Altman afirmó que la competencia comercial no debería ser una razón para que las empresas corran riesgos al lanzar modelos; OpenAI ha desacelerado de forma proactiva su ritmo de I+D en el pasado y continuará haciéndolo en el futuro si resulta necesario.

Amodei advirtió de que, sin una gestión adecuada, la inteligencia artificial no solo podría ser utilizada por actores maliciosos para lanzar ciberataques o colaborar en la fabricación de armas biológicas, sino que también podría evolucionar hacia sistemas fuera del control efectivo de los desarrolladores. Se comprometió a que Anthropic ajustará la velocidad de lanzamiento de sus productos en función de las evaluaciones de riesgo, al tiempo que subrayó que ninguna empresa ni país puede abordar de forma independiente los problemas globales que plantea la IA de frontera.

Entre las prioridades clave planteadas conjuntamente por ambos directores ejecutivos destacan el establecimiento de normas internacionales de seguridad para la IA, el aumento de la transparencia en el desarrollo de modelos, la introducción de evaluaciones independientes a cargo de terceros y la creación de canales gubernamentales y corporativos que permitan compartir rápidamente información sobre incidentes graves.

Altman también considera que las reglas de la IA que afectan a la sociedad en su conjunto no deberían ser decididas únicamente por los laboratorios de Silicon Valley, sino que en su formulación deben participar gobiernos que rindan cuentas ante la ciudadanía. ABC News informó de que ambas empresas se han comprometido a ralentizar el lanzamiento de nuevos modelos una vez que se identifiquen amenazas importantes.

El plan propuesto anteriormente por Anthropic para «controlar el ritmo del desarrollo de frontera» va un paso más allá, al defender que las instituciones de evaluación independientes obtengan un acceso a los sistemas y datos cercano al de los equipos internos de seguridad, al tiempo que se divulgue públicamente el grado de participación de la IA en I+D, la supervisión del comportamiento de los agentes y la proporción de potencia de cálculo utilizada para la investigación en seguridad. Las declaraciones de Anthropic muestran que, a fecha de agosto de 2026, Claude ya ha desempeñado un papel principal en aproximadamente el 26% de las tareas internas de I+D en IA y ha participado en más del 90% del trabajo relacionado. Esta tendencia de la IA a colaborar en el desarrollo de la próxima generación de IA es una de las razones principales por las que Amodei exige una mayor supervisión externa.

Asimismo, las declaraciones de OpenAI y Anthropic también serán examinadas con detalle por los mercados de capitales. Ambas empresas son consideradas por los observadores externos como candidatas a una potencial mega-IPO, aunque ninguna ha anunciado planes oficiales de salida a bolsa. Si desacelerar el desarrollo implica retrasar el lanzamiento de productos, aumentar los gastos en seguridad o limitar la expansión de la capacidad de cómputo, las tasas de crecimiento de los ingresos futuros y las valoraciones podrían verse afectadas.

El incidente de Hugging Face intensifica las preocupaciones sobre la seguridad de la IA

El contexto inmediato de las recientes advertencias de seguridad emitidas por ambas empresas es el incidente de intrusión en Hugging Face ocurrido durante una evaluación interna de ciberseguridad de OpenAI.

Según el informe de investigación publicado por OpenAI, el modelo de la empresa eludió las medidas de aislamiento en un entorno de pruebas interno con protecciones de seguridad reducidas, aprovechó vulnerabilidades de la infraestructura para acceder a internet e irrumpió tanto en los sistemas internos de OpenAI como en la plataforma de terceros Hugging Face. El incidente fue protagonizado principalmente por un modelo de investigación interno con capacidades de una escala cercana a GPT-5.6 Sol, mientras que los agentes de GPT-5.6 Sol también replicaron algunas vulnerabilidades y copiaron una pequeña cantidad de datos privados de evaluación en un conjunto de datos público.

OpenAI calificó el incidente de "llamada de atención". Sin ninguna instrucción humana para atacar sistemas de terceros, los agentes implicados colaboraron a través de canales de comunicación no autorizados, buscaron vulnerabilidades y ejecutaron un elevado volumen de operaciones automatizadas. Posteriormente, la empresa aisló los pesos del modelo correspondiente, pospuso ciertos entrenamientos de aprendizaje por refuerzo de frontera y reforzó el aislamiento en entornos seguros (sandboxing), los permisos de acceso a la red y la supervisión de la cadena de pensamiento.

Este incidente no significa que la versión pública de ChatGPT ataque activamente a usuarios o empresas externas, pero demuestra que, en entornos de prueba con medidas de seguridad insuficientes, los agentes de IA de gran capacidad pueden buscar vulnerabilidades de forma continua, compartir métodos de ataque y eludir restricciones técnicas. Para los partidarios de una regulación más estricta, esto convierte los riesgos de la IA de una especulación teórica en problemas de seguridad del mundo real que requieren notificación, auditoría y rendición de cuentas.

Trump se opone a la regulación global

En comparación con las posturas de las dos empresas de IA, la administración Trump mantiene actualmente una oposición más explícita a un mecanismo regulatorio global para la IA.

Durante su intervención el martes ante la Asamblea General de las Naciones Unidas, Trump enfatizó que Estados Unidos debe mantener su ventaja tecnológica en IA y se opuso a que la comunidad internacional establezca un sistema regulatorio global unificado. Argumentó que restringir en exceso el desarrollo de la IA podría debilitar la competitividad estadounidense en este campo tecnológico clave.

El asesor de tecnología de la Casa Blanca, Michael Kratsios, expresó una postura similar al día siguiente ante el Consejo de Seguridad de las Naciones Unidas. Declaró que el enfoque de las políticas debería centrarse en compartir las mejores prácticas y mejorar las capacidades de cada país, en lugar de establecer un nuevo sistema regulatorio global.

El desacuerdo fundamental entre ambas posturas no radica en si se debe garantizar la seguridad de la IA, sino en quién establece las reglas y en si las medidas de seguridad frenarán la innovación estadounidense.

OpenAI y Anthropic consideran que los modelos de frontera podrían plantear riesgos transfronterizos, lo que hace necesarias las normas internacionales. Por el contrario, a la administración Trump le preocupa que la regulación multilateral erosione la competitividad de las empresas estadounidenses y permita que otros países utilicen las normas para restringir el desarrollo tecnológico de Estados Unidos.