美光推出512GB DDR5伺服器記憶體，有望將運行功耗降低逾60%

TradingKey - 美光科技 (MU) 於 9 月 15 日宣布，已在多款伺服器平台上成功展示全球首款 512GB DDR5 RDIMM 模組，速率最高可達 9,200 MT/s。據美光官方新聞稿，該模組採用先進垂直互連封裝技術，使單台 24 插槽雙路伺服器可支援最高 12TB DDR5 記憶體，同時運作功耗比 4 條 128GB RDIMM 低 60% 以上。

大語言模型 (LLM)、AI Agent、即時推論與高核心數 CPU 負載，是這一輪伺服器記憶體需求的主要推手。容量提升不上去，資料就得在記憶體與更慢的儲存層之間反覆搬移，延遲與能耗隨之同步上升。512GB RDIMM 的價值在於將更大的資料集留在主記憶體中，減少對慢速儲存層的依賴，也就減少了昂貴的資料搬移。

摩根大通基礎設施平台資訊長 Darrin Alves 表示，更高容量的記憶體技術有助於企業支援更大規模的記憶體內負載、提升資源利用率，並增強現代運算環境所需的擴充彈性。

對資料中心營運商而言，這款超高密度記憶體模組的另一大亮點是能源效率。與採用 4 條 128GB 模組的方案相比，單條 512GB 模組的運作功耗降低逾 60%，有望在提升記憶體容量的同時降低資料中心的電力消耗。

美光的記憶體技術突破：從加插槽轉向垂直堆疊

過去提升伺服器記憶體容量的常規做法，是往板子上插更多條記憶體，代價是功耗、散熱和插槽數量同步上升。

美光這次著手的是封裝：將多顆 DRAM 晶粒垂直堆疊，再利用矽穿孔 (TSV) 在晶粒之間完成互連，在單一 DRAM 封裝內將密度推向極限，同時維持現代資料中心架構所要求的效能。單一模組即可替代多條記憶體的位置，伺服器廠商不必為了容量而重新設計整機。

美光雲端記憶體事業部高級副總裁兼總經理 Raj Narasimhan 表示，美光持續推動記憶體技術步調，512GB RDIMM 讓伺服器能在既有物理尺寸內實現多 TB 記憶體，可支撐更大的 AI 與資料庫負載、更高的虛擬化密度，以及更好的能效表現。

根據美光提供的數據，512GB RDIMM 的運作功耗比四條 128GB RDIMM 低 60% 以上。同樣是 512GB 容量，前者是單一模組、一組走線、一套供電；後者則是四條平行運作。

美光表示，在 Spark 支援向量機 (SVM) 這類記憶體受限的分析負載上，512GB RDIMM 相比 256GB DDR5 配置最高可帶來 1.4 倍的效能提升。對 RocksDB、Redis 這類記憶體密集的資料庫與快取平台而言，更高的單條容量意味著更高吞吐量、更高並行度，以及更省力的資料集擴充。

AMD與英特爾同步推進生態驗證

目前 AMD 與英特爾都在驗證這款 512GB DDR5 RDIMM。

AMD 運算與企業 AI 平台解決方案工程副總裁 Amit Goel 表示，隨著 AI 與資料密集型負載重塑基礎設施需求，AMD 與美光的工程協作把運算與記憶體創新相結合，幫助客戶釋放基於 AMD 平台的完整價值。

英特爾資料中心集團平台與系統工程總經理 Karin Eibschitz Segal 表示，AI 及其他資料密集型負載的成長正在抬高對伺服器基礎設施的要求，記憶體容量與頻寬對系統整體效能越來越關鍵；英特爾正與美光一起驗證 512GB DDR5 RDIMM，為下一代伺服器平台做準備。

美光預計 512GB RDIMM 將在 2027 年下半年進入量產，時程與客戶需求對齊。目前這款 512GB DDR5 RDIMM 已在多套伺服器平台完成展示，AMD 與英特爾同時在進行驗證，但從展示到規模部署之間仍有約一年半的窗口。這段時間裡，伺服器記憶體的競爭焦點會從「插更多條」轉向「單條堆更高」，容量、頻寬與能效三者的平衡，將決定下一代 AI 伺服器能裝下多大的模型、多熱的資料庫。