TradingKey - 7월 6일 오전, 반도체 산업 리서치 기관인 세미어낼리시스(SemiAnalysis)는 플랫폼 X에 6회 연속으로 트윗을 게재하며 엔비디아( NVDA)의 랙 스케일 AI 아키텍처인 카이버(Kyber) NVL144에 심각한 지연이 발생했다고 밝혔다.
불과 3개월 전 GTC 컨퍼런스에서 젠슨 황이 대대적으로 홍보했던 이 블록버스터급 제품은 현재 12개월 이상 지연되어 출시가 2028년으로 연기된 것으로 알려졌다.
SemiAnalysis는 Kyber NVL144의 지연에 대한 직접적인 원인이 PCB 미드플레인의 제조 공정 병목 현상에 있다고 지적했습니다. NVIDIA가 "직교 백플레인"이라고 부르는 이 핵심 부품은 단일 랙 내에서 144개의 GPU를 효율적으로 상호 연결하는 핵심 요소입니다.
기존 서버가 채택한 수평적 레이아웃과 달리, Kyber 아키텍처는 수직 적층 설계를 활용합니다. 이 미드플레인을 통해 컴퓨팅 트레이와 스위치 트레이 간의 90도 수직 상호 연결을 실현하여, 기존 케이블로 인해 발생하던 신호 감쇄 및 공간 점유 문제를 완전히 해결합니다.
그러나 겉보기에 평범해 보이는 이 회로 기판은 현재 PCB 제조 공정의 극한을 나타냅니다. 기술 분석에 따르면, 448G+ SerDes 속도 하에서 초고속 신호 무결성 요구사항을 충족하기 위해, 이 미드플레인은 M9 등급 동박 적층판 + 석영 천 + PTFE의 하이브리드 소재를 사용하며, 최대 78층(26층 기판 3개를 함께 압착하여 제작)에 달하는 적층 구조와 ≤25μm의 선폭/간격을 가집니다.
이 설계는 이론적으로 더 높은 컴퓨팅 밀도를 달성할 수 있지만, 실제 제조 과정에서는 수율 제어, 임피던스 일관성, 열 설계와 같은 일련의 과제에 직면해 있습니다.
업계 관계자들은 현재 전 세계적으로 이 초고밀도 PCB를 대량 생산할 수 있는 제조업체가 매우 드물며, 제조 비용도 극도로 높다고 전했습니다.
Kyber의 제조상 어려움에 직면한 Nvidia는 과도기적 해결책으로 NVL72x2 백투백(back-to-back) 랙 아키텍처 개발을 시도한 바 있습니다. 이 솔루션은 두 개의 Oberon 랙을 서로 맞대어 배치하고 순수 구리 NVLink를 통해 스케일 도메인을 확장함으로써, Kyber 미드플레인의 제조 병목 현상을 우회하려는 시도였습니다.
그러나 이 계획은 결국 클라우드 서비스 제공업체(CSP)와 하이퍼스케일러들의 강력한 반대에 부딪혀 취소되었습니다. 이들은 해당 디자인이 구조적으로 복잡할 뿐만 아니라 운영 및 유지보수 비용이 매우 높아 대규모 데이터 센터 환경에 배포하기 어렵다고 판단했습니다.
설상가상으로 Nvidia가 원래 계획했던 4개 컴퓨팅 칩 버전의 Rubin Ultra도 취소되었으며, 더 작은 2개 컴퓨팅 칩 버전만 남게 되었습니다. 이 버전의 실제 성능은 이전 계획안의 절반 수준에 불과합니다.
이는 Kyber 랙이 최종적으로 예정대로 인도되더라도 랙당 컴퓨팅 성능의 한계치가 이미 크게 낮아졌음을 의미합니다.
Kyber NVL144 외에도 엔비디아의 더 대규모인 NVL576 시스템을 둘러싼 불확실성 역시 커지고 있습니다. 이 솔루션은 CPO(공정 패키징 광학) 기술을 사용해 8개의 랙 레벨 단위를 고성능 컴퓨팅 클러스터로 통합합니다. 다만 SemiAnalysis는 현재 CPO 기술이 직면한 과제를 고려할 때 NVL576 역시 지연되거나 소량 출하에 그칠 수 있다고 지적했습니다.
CPO 기술은 차세대 데이터 센터 상호 연결의 핵심으로 평가받고 있지만, 대량 생산 준비 상태는 아직 검증이 필요한 상황입니다. 엔비디아는 이를 차세대 파인만(Feynman) 플랫폼에 적용할 계획입니다.
이러한 일련의 지연과 취소는 경쟁사인 AMD와 구글에 추격의 기회를 제공했습니다. SemiAnalysis는 엔비디아가 현재 루빈 울트라(Rubin Ultra)의 스케일아웃 영역을 확장할 검증된 솔루션이 부족하며, 이로 인해 AMD의 MI500X나 구글의 TPUv8i 브로드플라이(Broadfly) 같은 제품들이 스케일아웃 성능에서 루빈 울트라를 능가할 수 있는 여지가 생겼다고 언급했습니다.
엔비디아가 랙 레벨 AI 인프라 발전 속도를 늦춤에 따라, 경쟁사들은 하이엔드 AI 학습 시장에서 더 많은 점유율을 차지할 준비를 갖추고 있습니다.