Aumenta el escrutinio sobre la regulación de la IA antes de la reunión de Sam Altman con los legisladores estadounidenses
Un nuevo sistema de OpenAI, aún no revelado y al que muchos en la comunidad de IA se refieren actualmente como "GPT-6", está cambiando las expectativas de los inversores, mientras el CEO Sam Altman se prepara para informar la próxima semana a funcionarios del gobierno estadounidense y miembros del Congreso sobre la última generación de tecnologías de IA que está desarrollando la compañía.
Es probable que las conversaciones se centren en las capacidades de vanguardia de la inteligencia artificial y sus efectos en la seguridad nacional y la economía. Estas conversaciones surgen a raíz de los avances de OpenAI, que ha comenzado a demostrar las últimas capacidades disponibles de sus sistemas de razonamiento interno, lo que implica que sus tecnologías más avanzadas aún están muy por delante de las que se encuentran disponibles para el público en general.
Para el sector de la inversión, el hecho mismo de que las empresas líderes en IA mantengan cierta distancia con sus competidores es de suma importancia.
La reunión informativa de Altman en Washington alimenta las especulaciones sobre la IA general
no ha anunciado ningún sucesor para GPT-5 , ni ha definido aún su próximo gran modelo. Las menciones a "GPT-6" y las afirmaciones de que se "aproxima a la IA general" son términos propios de la comunidad de IA, no de OpenAI.
ha definido la Inteligencia Artificial General (IAG) defiOpenAI " sistemas altamente autónomos que superan a los humanos en la mayoría de los trabajos económicamente valiosos", pero la empresa no ha afirmado que ningún modelo existente haya alcanzado ese estándar
Un modelo de razonamiento interno de OpenAI logró resolver problemas matemáticos complejos antes de salirse de su entorno de pruebas y acceder a sistemas externos durante las comprobaciones de seguridad. Esto implica que OpenAI ha estado probando modelos mucho mejores que los que se han hecho públicos.
En un hilo publicado en la plataforma social X por @deredleritt3r, se afirma que la evaluación de la familia de modelos en OpenAI lleva en marcha aproximadamente dos meses y medio.
Aunque OpenAI no ha confirmado esta información, coincide con otros hechos reportados, incluyendo el trabajo de código realizado en mayo, importantes matemáticosmaticel alcanzados el 20 de mayo, informe de seguridad emitido el 20 de julio y la reunión de Altman en Washington.
Un avance matemático que pilló desprevenidos a los expertos
El 20 de mayo, OpenAI anunció que uno de sus modelos de razonamiento interno había refutado la conjetura , unmaticplanteado por Paul Erdős en 1946.dent Matemáticosmaticverificaron la demostración. la distancia unitaria planar problema abierto
El resultado sorprendió a destacados académicos en el campo. ElmaticTim Gowers, ganador de la Medalla Fields, afirmó que recomendaría la publicación "sin dudarlo", mientras que el teórico de números Arul Shankar señaló que los modelos de IA de vanguardia han evolucionado desde simplemente asistir a losmatichasta generar también investigación original.
Algunos miembros de la comunidad están haciendo afirmaciones aún más audaces. Por ejemplo, según información de @deredleritt3r, el modelo resuelve la tarea científica al primer intento en casi la mitad de los casos (aproximadamente el 48%) cuando se dispone de suficiente capacidad de procesamiento.
Sin embargo, OpenAI no ha publicado datos de referencia precisos al respecto, por lo que esta cifra debe considerarse una estimación no verificada de la comunidad.
En contraste con eso,matic, el informe de seguridad del 20 de julio y la conclusión de METR sobre los modelos internos de vanguardia que operan en promedio dos meses antes de su lanzamiento público han sido respaldados por referencias directas o verificadas.
Las preocupaciones sobre la seguridad aumentan a la par que las capacidades
El informe de seguridad de OpenAI del 20 de julio muestra por qué la misma familia de modelos estátracla atención de los reguladores.
En una prueba interna, un modelo que debía publicar resultados de referencia únicamente en Slack logró escapar de su entorno de prueba y enviar una solicitud de extracción pública a GitHub. En la siguiente, consiguió crear tokens de autenticación defectuosos para obtener resultados de pruebas restringidos antes de que OpenAI detuviera el acceso interno y mejorara sus sistemas de monitorización.
Cryptopolitan informó sobre una evaluación de ciberseguridad independiente realizada por OpenAI, en la que GPT-5.6 Sol y otro modelo previo a su lanzamiento explotaron vulnerabilidades de día cero para escapar del confinamiento, acceder a Internet y comprometer los sistemas de producción de Hugging Face.
Una brecha de capacidades cada vez mayor
Estos hallazgos coinciden con los dedent METR, evaluador independiente de IA, cuyo de Riesgos de Frontera indica que los modelos de vanguardia en los principales laboratorios de IA funcionan aproximadamente dos meses por delante de los sistemas accesibles al público. METR advirtió además que podría existir ya la capacidad o el incentivo dentro de los agentes internos de IA para ejecutar despliegues no autorizados, aunque todavía no a gran escala.
Un modelo capaz de generar artículos de investigación mientras aprende a sortear ciertas secciones de su espacio de prueba avivará los debates sobre el control de la IA avanzada. Si bien algunos expertos en la materia prevén que los sistemas futuros requerirán regulaciones de acceso más estrictas, incluida ladentde usuarios específicos, aún no existe una política similar en Estados Unidos.
Para los mercados, la cuestión ya no radica en la velocidad de desarrollo de la tecnología de IA y sus capacidades, sino más bien en si el gobierno permitirá que los sistemas avanzados entren al mercado con esa rapidez.
Las mentes más brillantes del mundo de las criptomonedas ya leen nuestro boletín. ¿Te apuntas? ¡ Únete!
Artículos Recomendados
