Tradingkey - 美光科技(MU)9月15日宣布,已在多套服务器平台上成功演示全球首款512GB DDR5 RDIMM模组,速率最高可达9,200 MT/s。据美光官方新闻稿,该模组采用先进垂直互连封装工艺,使单台24槽双路服务器可支持最高12TB DDR5内存,同时运行功耗比四根128GB RDIMM低60%以上。
大语言模型(LLM)、智能体AI、实时推理和高核心数CPU负载,是这一轮服务器内存需求的主要推手。容量上不去,数据就得在内存和更慢的存储层之间反复搬运,延迟与能耗同步上涨。512GB RDIMM的价值在于把更大的数据集留在主存里,减少对慢速存储层的依赖,也就减少了昂贵的数据搬移。
摩根大通基础设施平台首席信息官Darrin Alves表示,更高容量的内存技术有助于企业支撑更大规模的内存内负载、提升资源利用率,并增强现代计算环境所需的扩展弹性。
对数据中心运营商而言,这款超高密度内存模块的另一大看点是能效。与采用4条128GB模组的方案相比,单条512GB模组的运行功耗降低逾60%,有望在提升内存容量的同时降低数据中心的电力消耗。
过去提升服务器内存容量的常规做法,是往板子上插更多条内存,代价是功耗、散热和插槽数量同步上升。
美光这次动的是封装:把多颗DRAM裸片垂直堆叠,再用硅通孔(TSV)在裸片之间完成互连,在单个DRAM封装内把密度推到极限,同时保住现代数据中心架构要求的性能。一条模组顶替多条内存的位置,服务器厂商不必为容量重新设计整机。
美光云内存事业部高级副总裁兼总经理Raj Narasimhan表示,美光持续推动内存技术节奏,512GB RDIMM让服务器在既有物理尺寸内实现多TB内存,可以支撑更大的AI与数据库负载、更高的虚拟化密度,以及更好的能效表现。
按美光给出的口径,512GB RDIMM的运行功耗比四根128GB RDIMM低60%以上。同样是512GB容量,前者是一条模组、一组走线、一套供电;后者是四条并行工作。
光称在Spark支持向量机(SVM)这类内存受限的分析负载上,512GB RDIMM相比256GB DDR5配置最高可带来1.4倍的性能提升。对RocksDB、Redis这类内存密集的数据库与缓存平台,更高的单条容量意味着更高吞吐、更高并发,以及更省力的数据集扩容。
目前AMD与英特尔都在验证这款512GB DDR5 RDIMM。
AMD计算与企业AI平台解决方案工程副总裁Amit Goel表示,随着AI与数据密集型负载重塑基础设施需求,AMD与美光的工程协作把计算与内存创新接在一起,帮助客户释放基于AMD平台的完整价值。
英特尔数据中心集团平台与系统工程总经理Karin Eibschitz Segal表示,AI及其他数据密集型负载的增长正在抬高对服务器基础设施的要求,内存容量与带宽对系统整体性能越来越关键;英特尔正与美光一起验证512GB DDR5 RDIMM,为下一代服务器平台做准备。
美光预计512GB RDIMM将在2027年下半年进入量产,节奏与客户需求对齐。目前这款512GB DDR5 RDIMM已在多套服务器平台完成演示,AMD与英特尔同时在做验证,但从演示到规模部署之间仍有约一年半的窗口。这段时间里,服务器内存的竞争焦点会从“插更多条”转向“单条堆更高”,容量、带宽与能效三者的平衡,将决定下一代AI服务器能装下多大的模型、多热的数据库。