TradingKey - En la mañana del 6 de julio, la firma de investigación de la industria de semiconductores SemiAnalysis publicó seis tweets consecutivos en la plataforma X, revelando que la arquitectura de IA a escala de rack de Nvidia ( NVDA) , Kyber NVL144, ha sufrido un retraso importante.
Se informa que este producto estrella, que fue presentado con bombos y platillos por Jensen Huang en la conferencia GTC hace apenas tres meses, se retrasará más de 12 meses, posponiendo su lanzamiento hasta 2028.
SemiAnalysis señaló que la razón directa del retraso de Kyber NVL144 radica en el cuello de botella del proceso de fabricación de la placa media del PCB. Este componente clave, que NVIDIA denomina "plano posterior ortogonal", es fundamental para lograr la interconexión eficiente de 144 GPU dentro de un solo bastidor.
A diferencia del diseño horizontal adoptado por los servidores tradicionales, la arquitectura de Kyber utiliza un diseño de apilamiento vertical. A través de esta placa media, logra una interconexión vertical de 90 grados entre las bandejas de computación y las bandejas de conmutación, eliminando por completo los problemas de atenuación de señal y ocupación de espacio causados por los cables tradicionales.
Sin embargo, esta placa de circuito aparentemente ordinaria representa el límite extremo de los procesos actuales de fabricación de PCB. Según el análisis técnico, la placa media utiliza un material híbrido de laminado de cobre de grado M9 + tela de cuarzo + PTFE, con hasta 78 capas (producidas mediante el prensado conjunto de tres placas de 26 capas) y un ancho/espaciado de línea de ≤25 µm, para cumplir con los requisitos de integridad de señal de ultra alta velocidad bajo una tasa SerDes de más de 448G.
Aunque este diseño teóricamente puede lograr una mayor densidad de computación, se enfrenta a una serie de desafíos en la fabricación real, tales como el control del rendimiento, la consistencia de la impedancia y el diseño térmico.
Expertos del sector afirmaron que actualmente hay muy pocos fabricantes en todo el mundo capaces de producir en masa este PCB de ultra alta densidad, y el coste de fabricación es extremadamente alto.
Ante las dificultades de fabricación de Kyber, Nvidia había intentado desarrollar una solución de transición: la arquitectura de rack back-to-back NVL72x2. Esta solución colocaba dos racks Oberon espalda con espalda, expandiendo el dominio de escala a través de NVLinks de cobre puro en un intento de eludir los cuellos de botella de fabricación de la placa media Kyber.
Sin embargo, este plan fue finalmente cancelado debido a la fuerte oposición de los proveedores de servicios en la nube (CSP) e hiperescaladores. Consideraban que dicho diseño no solo era complejo desde el punto de vista estructural, sino que también conllevaba costes operativos y de mantenimiento extremadamente altos, lo que dificultaba su despliegue en entornos de centros de datos a gran escala.
Para empeorar las cosas, la versión de 4 chips de computación del Rubin Ultra planificada originalmente por Nvidia también fue cancelada, dejando únicamente la versión más pequeña de 2 chips de computación, cuyo rendimiento real es aproximadamente la mitad de la anterior.
Esto significa que incluso si los racks Kyber se entregan finalmente según lo previsto, el límite máximo de potencia de cálculo por rack ya se ha reducido significativamente.
Además del Kyber NVL144, la incertidumbre también se cierne sobre el sistema NVL576 de mayor escala de Nvidia. Esta solución integra ocho unidades a nivel de rack en un clúster de mayor capacidad de cómputo utilizando tecnología CPO (Co-Packaged Optics, u óptica empaquetada conjuntamente). Sin embargo, SemiAnalysis señaló que, dados los desafíos actuales que enfrenta la tecnología CPO, el NVL576 también podría retrasarse o limitarse a envíos de lotes pequeños.
La tecnología CPO se considera clave para las interconexiones de centros de datos de próxima generación, pero su viabilidad para la producción en masa aún está por verificarse. Nvidia planea aplicarla a su plataforma de próxima generación, Feynman.
Esta serie de retrasos y cancelaciones ha brindado a sus competidores AMD y Google la oportunidad de ponerse al día. SemiAnalysis señaló que Nvidia actualmente carece de una solución probada para ampliar el dominio de escala vertical (scale-up) de Rubin Ultra, lo que deja espacio para que productos como el MI500X de AMD o el TPUv8i Broadfly de Google superen a Rubin Ultra en capacidades de escala vertical.
A medida que Nvidia frena su ritmo en el avance de la infraestructura de IA a nivel de rack, sus competidores están preparados para capturar una mayor participación en el mercado de entrenamiento de IA de gama alta.