OpenAI首款定制芯片Jalapeno交付样品,在部分测试中优于英伟达现有产品

来源 Tradingkey

Tradingkey - OpenAI周三表示,与博通(AVGO)联合开发的首款定制芯片Jalapeno已交付工程样品,目前正在实验室测试。博通首席执行官Hock Tan称,早期结果显示,在典型AI工作负载下,Jalapeno的运行成本较常见AI GPU可能降低约50%。

Jalapeno主要面向大语言模型推理,即模型完成训练后,负责响应用户请求和执行任务的阶段。OpenAI硬件负责人Richard Ho表示,该芯片在吞吐量和响应速度之间实现了平衡,既能以较低成本服务更多用户,也能缩短对实时响应要求较高的任务的等待时间。芯片额定功耗约为700瓦,有望降低数据中心的电力支出。

OpenAI称,Jalapeno在内部测试中表现出较高的每瓦性能,并在部分测试中优于英伟达现有产品。不过,相关结果仍属于公司早期测试披露,尚未经过大规模商业部署验证。该芯片没有针对英伟达最新一代Vera Rubin进行测试,也不用于AI模型训练,因此短期内不会取代英伟达在训练领域的产品。

消息公布后,博通股价盘初一度涨超1%,随后涨幅收窄至0.66%,报361.13美元。

7-2b99e01f3a5c43e2a254749a0c24fe48

博通股价图,来源:TradingView

按照计划,最终版本的Jalapeno将从今年晚些时候开始部署到微软及其他合作伙伴的数据中心。博通此前预计,明年将部署约1.3吉瓦规模的相关芯片,Tan表示,随着需求持续增长,实际规模可能高于这一目标。两家公司还制定了多代芯片路线图,下一代产品预计于2028年推出,此后将持续迭代。

此次合作是OpenAI扩大芯片供应来源、降低基础设施成本的重要一步。除了继续大量采购英伟达产品外,OpenAI还与AMD、Cerebras等芯片厂商达成合作,并计划在芯片、内存、网络和数据中心系统等环节加强控制。公司今年早些时候已筹集约1220亿美元,用于投入芯片、数据中心和人才。不过,OpenAI如何支付大规模芯片订单,仍有待后续融资安排确定。

免责声明:仅供参考。 过去的表现并不预示未来的结果。
goTop
quote