OpenAI se asocia con Broadcom para crear el chip Jalapeño: Una apuesta para 'liberarse de Nvidia', ¿tendrá éxito?

TradingKey - El 24 de junio, hora del este, OpenAI, en colaboración con Broadcom ( AVGO), lanzó su primer chip de inferencia de IA de desarrollo propio, Jalapeño. El chip tardó solo nueve meses desde el diseño hasta el tape-out, y el sector lo considera el "movimiento más agresivo" de una gran empresa tecnológica que intenta librarse de su dependencia de Nvidia.

¿Qué es un jalapeño?

Jalapeño es un chip diseñado específicamente para la inferencia de IA. Dentro del flujo de trabajo de la computación de IA, existen dos etapas clave: el 'entrenamiento' y la 'inferencia'. El entrenamiento utiliza cantidades masivas de datos para 'enseñar' a un modelo, mientras que la inferencia es cuando el modelo genera respuestas tras recibir consultas de los usuarios. Jalapeño está dirigido específicamente a la etapa de inferencia.

A diferencia de las GPUs de propósito general de Nvidia, Jalapeño está optimizado para una sola cosa: ejecutar grandes modelos de lenguaje de forma rápida y eficiente en términos energéticos. No necesita equilibrar otras tareas como el renderizado de gráficos, lo que le permite lograr una mayor eficiencia y menores costos en las tareas de inferencia. Richard Ho, director de hardware de OpenAI, reveló que el equipo ha personalizado profundamente la computación central, la transferencia de memoria y la arquitectura de red, con el objetivo de hacer que cada respuesta de productos como ChatGPT sea más barata y rápida.

¿Por qué OpenAI quiere desarrollar sus propios chips?

Richard Ho afirmó que Jalapeño otorga a OpenAI un control total que abarca desde los modelos hasta los productos, pasando por los chips y los centros de datos. Esto significa que OpenAI ya no es solo una empresa de software que alquila la potencia de cálculo de Nvidia, sino que se está transformando en una empresa de infraestructura de computación.

A diferencia de las rutas de expansión de las empresas de internet tradicionales, existe una lógica clara detrás de Jalapeño: unos mejores modelos pueden ayudar a diseñar mejores chips, unos mejores chips pueden reducir los costes operativos de los modelos de próxima generación y unos costes más bajos pueden, a su vez, dar soporte a más usuarios y productos. Una vez que este bucle cerrado se establezca con éxito, la idea de que Nvidia pase de ser un proveedor clave a una opción alternativa dejará de ser un mero alarmismo.

¿Cómo desafía Jalapeño a Nvidia?

Elegir la vía de la inferencia como punto de entrada. En lugar de entablar una batalla directa en el entrenamiento, el dominio más fuerte de Nvidia, OpenAI optó por centrarse en los escenarios de inferencia: el paso computacional en el que un usuario introduce una instrucción en ChatGPT y el modelo genera una respuesta.

Se trata de un punto de entrada más pragmático. El entrenamiento exige una densidad de computación y una versatilidad extremadamente elevadas, áreas en las que las GPUs de Nvidia tienen una ventaja estructural. Por el contrario, la inferencia gestiona un volumen masivo de solicitudes bajo arquitecturas de modelos ya establecidas, lo que facilita que los chips especializados y específicos para aplicaciones superen en eficiencia y costes a las GPUs de propósito general.

Más importante aún, los costes de inferencia representan un gasto diario continuo para OpenAI. El CEO de Broadcom, Hock Tan, reveló que los costes de inferencia de Jalapeño podrían ser en torno a un 50% menores que los de las GPUs de IA convencionales, con un rendimiento aproximadamente a la par de los chips Blackwell de Nvidia.

Diseño asistido por IA, tape-out completado en nueve meses. Mientras que los chips de gama alta tradicionales suelen tardar de dos a tres años desde el diseño de la arquitectura hasta el tape-out, Jalapeño lo logró en solo nueve meses.

Un factor clave detrás de esto fue que OpenAI aprovechó sus propios modelos para acelerar el flujo de trabajo del diseño de chips. La IA ya no es solo una consumidora de chips, sino que está empezando a diseñarlos, un hecho de por sí bastante convincente.

No se trata de un solo chip, sino de toda una hoja de ruta. Jalapeño es solo el primer paso. OpenAI y Broadcom han diseñado una hoja de ruta de chips de varias generaciones, con el objetivo de desplegar 10 gigavatios de potencia de computación en chips personalizados para 2029. Broadcom prevé que sus ingresos relacionados con la IA superen los 100.000 millones de dólares para el ejercicio fiscal 2027.

OpenAI no está sola. Google ( GOOGL ), Amazon ( AMZN ), Microsoft ( MSFT ), Meta ( META) están desarrollando sus propios chips, y Anthropic también ha iniciado evaluaciones para el desarrollo de silicio personalizado. La apuesta por los chips personalizados está dejando de ser un experimento aislado de empresas individuales para convertirse en una tendencia generalizada en el sector.

¿Dónde radican las dificultades para desafiar a Nvidia?

1. La ventaja de escala de Nvidia sigue siendo enorme

Broadcom prevé que los ingresos por chips de IA superen los 100.000 millones de dólares en el año fiscal 2027, una cifra que parece bastante impresionante. Sin embargo, solo los ingresos del centro de datos de Nvidia en el primer trimestre del año fiscal 2027 alcanzaron los 75.200 millones de dólares, lo que supone un aumento interanual del 92%. En otras palabras, el hardware de IA que Nvidia vende en un solo trimestre ya supera los ingresos por chips de IA proyectados por Broadcom para todo un año. La brecha de escala entre ambas sigue siendo enorme.

2. El ecosistema de software CUDA es una barrera difícil de sortear

La verdadera ventaja competitiva de Nvidia no es el hardware de las GPU, sino CUDA y su ecosistema de software integrado, que admite más de 7.000 aplicaciones y está respaldado por una cadena de herramientas en la que millones de desarrolladores confían desde hace tiempo.

Al ser un chip ASIC, Jalapeño no es compatible con CUDA ni tiene previsto serlo. Sin embargo, el punto clave es que OpenAI no necesita comercializar Jalapeño externamente; solo tiene que optimizarlo para sus propias cargas de trabajo de inferencia. Aunque esta estrategia puede eludir a CUDA, aún no es suficiente para hacer tambalear la posición dominante de CUDA en la comunidad más amplia de desarrollo de IA.

3. Capacidad limitada a corto plazo: más un complemento que un sustituto

OpenAI ha dejado claro que Jalapeño es un complemento para la potencia de cálculo existente, no un sustituto. Brockman afirmó categóricamente que la empresa simplemente no puede adquirir potencia de cálculo con la suficiente rapidez.

También hay un antecedente que se pasa por alto fácilmente: hace unos nueve meses, Nvidia acababa de completar una inversión estratégica de 30.000 millones de dólares en OpenAI. Jensen Huang dijo en ese momento: "esta podría ser la última", lo que indica que Nvidia ya había anticipado el proyecto Jalapeño desde hacía tiempo. Ambas partes siguen manteniendo una relación simbiótica.

¿Tendrá éxito finalmente esta apuesta?

Una valoración más cautelosa es que la ventaja competitiva de Nvidia se está erosionando, pero está lejos de colapsar.

El mercado de la inferencia está transitando del dominio de las GPUs a un panorama diversificado en el que las GPUs coexisten con diversos ASICs. Si la hoja de ruta de chips multigeneracionales de OpenAI progresa sin contratiempos, las cargas de trabajo de inferencia acelerarán su transición de las GPUs a los ASICs. Sin embargo, para Nvidia, las barreras en el mercado de entrenamiento, la adherencia del ecosistema de CUDA y sus ventajas de escala siguen siendo difíciles de debilitar a corto plazo.

La respuesta a hasta dónde puede llegar finalmente Jalapeño podría no revelarse hasta que se disponga de los datos de despliegue dentro de dos años.

Preguntas frecuentes

P: ¿Cuándo estará disponible comercialmente de forma oficial el chip Jalapeño?

R: Actualmente todavía se encuentra en la fase de muestra de ingeniería. OpenAI espera publicar un informe técnico más detallado en los próximos meses, y el cronograma específico para la producción en masa y el despliegue aún no se ha anunciado.

P: ¿Reemplazará Jalapeño a las GPUs de Nvidia?

R: No a corto plazo. OpenAI ha dejado claro que esto es un complemento para la potencia de cálculo y no un reemplazo, y el entrenamiento de los modelos fundacionales de próxima generación todavía depende en gran medida de las GPUs de Nvidia.

P: ¿Se pueden reducir realmente los costos de inferencia de Jalapeño en un 50%?

R: Esta cifra proviene de declaraciones públicas del CEO de Broadcom, Hock Tan, pero se basa en métricas de pruebas iniciales, y el rendimiento real tras la producción en masa final aún debe verificarse más a fondo.