오픈AI, 첫 맞춤형 칩 '할라피뇨' 샘플 제공, 일부 테스트에서 엔비디아 기존 제품 능가

TradingKey - OpenAI는 수요일, 브로드컴(AVGO)과 공동 개발한 첫 맞춤형 반도체 '할라페뇨(Jalapeno)'의 엔지니어링 샘플이 인도되어 현재 연구실 테스트를 진행 중이라고 밝혔다. 훅 탄 브로드컴 최고경영자(CEO)는 초기 결과에 따르면 일반적인 AI 워크로드에서 할라페뇨의 운영 비용이 일반 AI GPU 대비 약 50% 절감될 수 있다고 말했다.

할라페뇨는 모델 훈련 이후 시스템이 사용자 요청에 응답하고 작업을 수행하는 단계인 거대언어모델(LLM) 추론용으로 주로 설계되었다. 리처드 호(Richard Ho) OpenAI 하드웨어 총괄은 이 반도체가 처리량과 응답 속도 사이의 균형을 형성하여 더 낮은 비용으로 더 많은 사용자에게 서비스를 제공하는 동시에, 높은 실시간 응답이 요구되는 작업의 대기 시간을 줄여준다고 밝혔다. 해당 반도체의 정격 전력은 약 700와트(W)로, 데이터센터의 전력 비용을 절감할 수 있을 것으로 예상된다.

OpenAI는 할라페뇨가 자체 내부 테스트에서 소비전력 대비 높은 성능(와트당 성능)을 입증했으며 일부 테스트에서는 엔비디아의 기존 제품보다 우수한 성과를 냈다고 밝혔다. 다만 이러한 결과는 아직 대규모 상용 배포를 통해 검증되지 않은 초기 내부 테스트 공개 수준이다. 또한 이 반도체는 엔비디아의 최신 세대인 베라 루빈(Vera Rubin)을 상대로 테스트되지 않았으며 AI 모델 훈련에도 사용되지 않으므로, 단기적으로 훈련 분야에서 엔비디아 제품을 대체하지는 않을 전망이다.

이 소식이 전해진 후 브로드컴 주가는 장 초반 1% 넘게 상승했다가 상승 폭을 줄여 0.66% 오른 361.13달러에 거래되었다.

브로드컴 주가 차트, 출처: TradingView

계획에 따르면 할라페뇨의 최종 버전은 올해 하반기부터 마이크로소프트 및 기타 파트너사의 데이터센터에 배포될 예정이다. 브로드컴은 당초 내년에 약 1.3기가와트(GW) 규모의 반도체를 배포할 것으로 예상했으나, 탄 CEO는 수요가 지속적으로 증가함에 따라 실제 규모가 해당 목표를 상회할 수 있다고 언급했다. 아울러 양사는 다세대에 걸친 반도체 로드맵을 구축했으며, 차세대 제품은 2028년에 출시되어 이후 지속적인 성능 개량을 거칠 것으로 예상된다.

이번 파트너십은 OpenAI가 반도체 공급처를 다변화하고 인프라 비용을 절감하기 위한 중요한 단계다. OpenAI는 엔비디아 제품의 대규모 구매를 지속하는 것 외에도 AMD, 세레브라스(Cerebras) 등 반도체 제조업체들과 파트너십을 맺었으며, 반도체·메모리·네트워킹·데이터센터 시스템 전반에 걸친 통제력을 강화할 계획이다. OpenAI는 올해 초 반도체, 데이터센터, 인재 투자를 위해 약 1,220억 달러를 조달했다. 다만 OpenAI가 대규모 반도체 주문 대금을 어떻게 지급할지는 향후 자금 조달 계획에 따라 결정될 것으로 보인다.