OpenAI respalda la disposición del marco federal de seguridad de la IA de la Ley FRONTIER, aprobada por ambos partidos

OpenAI ha respaldado una disposición fundamental de la Ley FRONTIER, de carácter bipartidista, que obligaría a los mayores desarrolladores de IA a permitir el acceso de evaluadores de seguridaddent a sus operaciones. 

Esta es la primera vez que OpenAI respalda públicamente un mandato federal en materia de seguridad de la IA. 

¿Apoya OpenAI la Ley FRONTIER?  

Chris Lehane, director de asuntos globales de OpenAI, declaró a los periodistas el martes que la empresa apoya la Ley FRONTIER de contar con lo que denomina "dent organizaciones de verificación independientes" u IVO 

El proyecto de ley fue propuesto por los representantes Jay Obernolte (republicano por California) y Lori Trahan (demócrata por Massachusetts), y, de aprobarse, establecería el primer marco federal para la seguridad de la IA, permitiendo que evaluadoresdent accedan a laboratorios de vanguardia y verifiquen que los modelos se estén construyendo de forma segura.

Lehane dijo que durante una reunión en el Capitolio el lunes, "habló específicamente sobre cómo pensamos acerca de IVO y dejó claro que podemos apoyarlo"

El sábado por la mañana, el director ejecutivo Sam Altman se comprometió a incorporar voluntariamente evaluadores externos a la empresa, horas después de que Dario Amodei, de Anthropic, hiciera una promesa similar. Altman escribió en X que acogería con satisfacción un marco federal que estableciera requisitos de seguridad uniformes para la IA de vanguardia 

Su declaración se produjo tras una iniciativa conjunta de Altman, Amodei y Elon Musk para frenar a nivel nacional el desarrollo de modelos de vanguardia. 

En una publicación de blog, Lehane escribió que OpenAI quiere trabajar con el Congreso en una "regulación nacional obligatoria y basada en capacidades para la seguridad de la IA", y la semana pasada la compañía respaldó una medida de California que establece un proceso de acreditación para la misma clase de grupos de verificación.

La senadora Maria Cantwell (demócrata por Washington), miembro de mayor rango del Comité de Comercio, también ha pedido fuertestronfederales sobre cómo se prueban y lanzan los modelos de vanguardia. Señaló incidentes recientesdentagentes de IA que escaparon de sus entornos de prueba y piratearon otros sistemas durante un discurso en el pleno.

¿Cómo funcionaría el régimen de verificación de la Ley FRONTIER? 

El análisis del proyecto de ley realizado por la Fundación para la Innovación Estadounidense concluyó que el sistema IVO es fundamental para sus operaciones. El Departamento de Comercio establecería los estándares que todo IVO debe cumplir, incluyendo cualificaciones técnicas e independencia de la empresa que evalúa. Un nuevo Subsecretario de Comercio para la Seguridad de la IA supervisaría la implementación.

Las obligaciones se ajustarían al tamaño de la empresa. Por ejemplo, un "desarrollador de proyectos de gran envergadura" deficomo una empresa con más de 5.000 millones de dólares en ingresos y al menos 10.000 millones de dólares en gastos de desarrollo durante tres años— tendría que contratar a una IVO autorizada, que evaluaría si el marco de seguridad y las prácticas publicadas por la empresa reducen realmente el riesgo de catástrofes e informaría de sus conclusiones al Departamento de Comercio cada seis meses. 

Una categoría aparte de "grandes desarrolladores de proyectos de vanguardia", que implica que la empresa registre más de 50 millones de dólares en ingresos y al menos 1.000 millones de dólares en gastos de desarrollo, solo tendría que publicar un marco de seguridad y contratar a un auditor para certificar que lo está cumpliendo.

La Fundación para la Innovación Estadounidense también señala que el proyecto de ley otorga al Secretario de Comercio poderes de emergencia para suspender el desarrollo o la implementación de un modelo si representa un riesgo catastrófico inminente. 

Debido a los umbrales establecidos, las empresas emergentes y los desarrolladores más pequeños quedan completamente fuera de este régimen.

Si estás leyendo esto, ya llevas ventaja. Mantente al día con nuestro boletín informativo.