美光推出512GB DDR5服务器内存,有望将运行功耗降低逾60%

来源 Tradingkey

Tradingkey - 美光科技(MU)9月15日宣布,已在多套服务器平台上成功演示全球首款512GB DDR5 RDIMM模组,速率最高可达9,200 MT/s。据美光官方新闻稿,该模组采用先进垂直互连封装工艺,使单台24槽双路服务器可支持最高12TB DDR5内存,同时运行功耗比四根128GB RDIMM低60%以上。

大语言模型(LLM)、智能体AI、实时推理和高核心数CPU负载,是这一轮服务器内存需求的主要推手。容量上不去,数据就得在内存和更慢的存储层之间反复搬运,延迟与能耗同步上涨。512GB RDIMM的价值在于把更大的数据集留在主存里,减少对慢速存储层的依赖,也就减少了昂贵的数据搬移。

摩根大通基础设施平台首席信息官Darrin Alves表示,更高容量的内存技术有助于企业支撑更大规模的内存内负载、提升资源利用率,并增强现代计算环境所需的扩展弹性。

对数据中心运营商而言,这款超高密度内存模块的另一大看点是能效。与采用4条128GB模组的方案相比,单条512GB模组的运行功耗降低逾60%,有望在提升内存容量的同时降低数据中心的电力消耗。

美光的内存技术突破:从加插槽转向垂直堆叠

过去提升服务器内存容量的常规做法,是往板子上插更多条内存,代价是功耗、散热和插槽数量同步上升。

美光这次动的是封装:把多颗DRAM裸片垂直堆叠,再用硅通孔(TSV)在裸片之间完成互连,在单个DRAM封装内把密度推到极限,同时保住现代数据中心架构要求的性能。一条模组顶替多条内存的位置,服务器厂商不必为容量重新设计整机。

美光云内存事业部高级副总裁兼总经理Raj Narasimhan表示,美光持续推动内存技术节奏,512GB RDIMM让服务器在既有物理尺寸内实现多TB内存,可以支撑更大的AI与数据库负载、更高的虚拟化密度,以及更好的能效表现。

按美光给出的口径,512GB RDIMM的运行功耗比四根128GB RDIMM低60%以上。同样是512GB容量,前者是一条模组、一组走线、一套供电;后者是四条并行工作。

光称在Spark支持向量机(SVM)这类内存受限的分析负载上,512GB RDIMM相比256GB DDR5配置最高可带来1.4倍的性能提升。对RocksDB、Redis这类内存密集的数据库与缓存平台,更高的单条容量意味着更高吞吐、更高并发,以及更省力的数据集扩容。

AMD与英特尔同步推进生态验证

目前AMD与英特尔都在验证这款512GB DDR5 RDIMM。

AMD计算与企业AI平台解决方案工程副总裁Amit Goel表示,随着AI与数据密集型负载重塑基础设施需求,AMD与美光的工程协作把计算与内存创新接在一起,帮助客户释放基于AMD平台的完整价值。

英特尔数据中心集团平台与系统工程总经理Karin Eibschitz Segal表示,AI及其他数据密集型负载的增长正在抬高对服务器基础设施的要求,内存容量与带宽对系统整体性能越来越关键;英特尔正与美光一起验证512GB DDR5 RDIMM,为下一代服务器平台做准备。

美光预计512GB RDIMM将在2027年下半年进入量产,节奏与客户需求对齐。目前这款512GB DDR5 RDIMM已在多套服务器平台完成演示,AMD与英特尔同时在做验证,但从演示到规模部署之间仍有约一年半的窗口。这段时间里,服务器内存的竞争焦点会从“插更多条”转向“单条堆更高”,容量、带宽与能效三者的平衡,将决定下一代AI服务器能装下多大的模型、多热的数据库。

免责声明:仅供参考。 过去的表现并不预示未来的结果。
placeholder
标普500走势:30年期美债收益率突破5.40%,美股风险渐行渐近!若通胀冲击超预期,美联储开启新一轮加息周期,这势必加剧美国科技企业资本支出放缓、盈利下降的压力。更令人担忧的是,一旦美国债务问题发酵,投资者对美债寻求更高期限溢价,这或倒逼美联储加大升息幅度,并推升财政部的借贷需求,即“借新债还旧债”,而债务总量增加又降进一步要求更高利率。陷入“债务死亡螺旋”。届时或为美股提供进一步下行动力。
作者  Insights
13 小时前
若通胀冲击超预期,美联储开启新一轮加息周期,这势必加剧美国科技企业资本支出放缓、盈利下降的压力。更令人担忧的是,一旦美国债务问题发酵,投资者对美债寻求更高期限溢价,这或倒逼美联储加大升息幅度,并推升财政部的借贷需求,即“借新债还旧债”,而债务总量增加又降进一步要求更高利率。陷入“债务死亡螺旋”。届时或为美股提供进一步下行动力。
placeholder
【今日要闻】美元指数4连涨!日元汇率破155,10年期美债收益率创2007年新高美联储加息概率超90%,黄金、比特币下挫;美元指数4连涨,日元汇率破155;10年期​​美债收益率创2007年来新高>>
作者  Alison Ho
13 小时前
美联储加息概率超90%,黄金、比特币下挫;美元指数4连涨,日元汇率破155;10年期​​美债收益率创2007年来新高>>
placeholder
原油价格创4个月新高!布油逼近110美元,未来涨至150?霍尔木兹海峡和曼德海峡通道受阻,叠加沙特东西管道关闭,三重压力下原油价格易涨难跌。
作者  Alison Ho
14 小时前
霍尔木兹海峡和曼德海峡通道受阻,叠加沙特东西管道关闭,三重压力下原油价格易涨难跌。
placeholder
WTI原油走势:全球石油供应短缺“雪上加霜”,油价或冲击这一目标!石油市场后续焦点在于沙特东西向输油管道需多长时间才能恢复?该管线此前每天输送约400万至500万桶原油,相当于全球石油供应的约4%。市场目前预估该管道3至5周内无法恢复运行,但沙特在延布的储存仅可以支持出口5到7天。这意味沙特或因此被迫进一步削减产量。
作者  Insights
15 小时前
石油市场后续焦点在于沙特东西向输油管道需多长时间才能恢复?该管线此前每天输送约400万至500万桶原油,相当于全球石油供应的约4%。市场目前预估该管道3至5周内无法恢复运行,但沙特在延布的储存仅可以支持出口5到7天。这意味沙特或因此被迫进一步削减产量。
placeholder
美元指数大反弹!美联储9月加息落地后,未来继续涨?美元指数连续第4日上涨,截至发稿报99.62。非美货币集体下挫,欧元/美元(EUR/USD)跌至1.1536,连续第四日下跌。
作者  Alison Ho
19 小时前
美元指数连续第4日上涨,截至发稿报99.62。非美货币集体下挫,欧元/美元(EUR/USD)跌至1.1536,连续第四日下跌。
goTop
quote