TradingKey - Micron Technology (MU) gab am 15. September bekannt, dass das Unternehmen das weltweit erste 512-GB-DDR5-RDIMM-Modul mit Geschwindigkeiten von bis zu 9.200 MT/s auf mehreren Serverplattformen erfolgreich demonstriert hat. Laut der offiziellen Pressemitteilung von Micron nutzt das Modul eine fortschrittliche vertikale Interconnect-Packaging-Technologie, wodurch ein einzelner Dual-Socket-Server mit 24 Steckplätzen bis zu 12 TB DDR5-Arbeitsspeicher unterstützen und den Betriebsenergieverbrauch im Vergleich zu vier 128-GB-RDIMMs um mehr als 60 % senken kann.
Große Sprachmodelle (LLMs), agentische KI, Echtzeit-Inferenz und CPU-Workloads mit hoher Kernanzahl sind die Haupttreiber dieser Nachfragewelle nach Server-Arbeitsspeicher. Wenn die Kapazität nicht Schritt halten kann, müssen Daten wiederholt zwischen dem Arbeitsspeicher und langsameren Speicherschichten übertragen werden, was sowohl die Latenz als auch den Energieverbrauch in die Höhe treibt. Der Wert des 512-GB-RDIMM liegt darin, größere Datensätze im Hauptspeicher zu halten, wodurch die Abhängigkeit von langsameren Speicherebenen verringert und kostspielige Datenübertragungen minimiert werden.
Darrin Alves, Chief Information Officer for Infrastructure Platforms bei JPMorgan Chase, erklärte, dass Speichertechnologie mit höherer Kapazität Unternehmen dabei helfe, größere In-Memory-Workloads zu unterstützen, die Ressourcenauslastung zu verbessern und die Skalierungsflexibilität zu erhöhen, die in modernen Rechenumgebungen erforderlich ist.
Für Rechenzentrumsbetreiber ist die Energieeffizienz ein weiteres wichtiges Highlight dieses Speichermoduls mit extrem hoher Dichte. Im Vergleich zu einer Konfiguration mit vier 128-GB-Modulen reduziert ein einzelnes 512-GB-Modul den Betriebsenergieverbrauch um mehr als 60 %, was verspricht, den Stromverbrauch von Rechenzentren zu senken und gleichzeitig die Speicherkapazität zu erweitern.
In der Vergangenheit bestand der herkömmliche Ansatz zur Erhöhung der Server-Speicherkapazität darin, mehr Speichermodule auf der Platine zu verbauen – was allerdings mit einem gleichzeitig höheren Stromverbrauch, mehr Wärmeabgabe und einer größeren Anzahl benötigter Steckplätze einherging.
Dieses Mal konzentrierte sich Micron auf das Packaging: Das Unternehmen stapelt mehrere DRAM-Dies vertikal und verbindet sie über Silizium-Durchkontaktierungen (Through-Silicon Vias, TSVs), um die Dichte innerhalb eines einzelnen DRAM-Gehäuses an die Grenzen zu treiben und gleichzeitig die von modernen Rechenzentrumsarchitekturen geforderte Leistung aufrechtzuerhalten. Da ein einzelnes Modul die Rolle mehrerer Speicherriegel übernimmt, müssen Serverhersteller nicht mehr ganze Systeme neu konzipieren, um die Kapazität zu steigern.
Raj Narasimhan, Senior Vice President und General Manager der Cloud Memory Business Unit bei Micron, erklärte, dass Micron das Innovationstempo in der Speichertechnologie weiterhin maßgeblich vorantreibe. Das 512-GB-RDIMM ermögliche es Servern, innerhalb der bestehenden physischen Abmessungen Speicherkapazitäten im Multi-Terabyte-Bereich zu erreichen, was umfangreichere KI- und Datenbank-Workloads, eine höhere Virtualisierungsdichte sowie eine herausragende Energieeffizienz unterstütze.
Laut Micron liegt der Leistungsverbrauch des 512-GB-RDIMM im Betrieb um mehr als 60 % niedriger als der von vier 128-GB-RDIMMs. Bei gleicher Kapazität von 512 GB setzt Ersterer auf ein einzelnes Modul, einen einzigen Satz von Leiterbahnen und ein einziges Stromversorgungssystem, während Letzterer vier parallel arbeitende Module benötigt.
Micron gibt an, dass das 512-GB-RDIMM bei speicherbegrenzten Analyse-Workloads wie Spark Support Vector Machines (SVM) eine bis zu 1,4-fache Leistungssteigerung im Vergleich zu einer 256-GB-DDR5-Konfiguration bietet. Bei speicherintensiven Datenbank- und Caching-Plattformen wie RocksDB und Redis führt eine höhere Einzelmodul-Kapazität zu höherem Durchsatz, größerer Nebenläufigkeit und einer einfacheren Skalierung von Datensätzen.
AMD und Intel validieren dieses 512-GB-DDR5-RDIMM derzeit.
Amit Goel, Vice President of Computing and Enterprise AI Platform Solutions Engineering bei AMD, erklärte, dass die technische Zusammenarbeit zwischen AMD und Micron angesichts der Umgestaltung der Infrastrukturnachfrage durch KI und datenintensive Workloads eine Brücke zwischen Innovationen bei Rechenleistung und Speicher schlägt und Kunden dabei hilft, den vollen Wert AMD-basierter Plattformen zu erschließen.
Karin Eibschitz Segal, General Manager of Platform and System Engineering in der Data Center Group bei Intel, merkte an, dass das Wachstum von KI und anderen datenintensiven Workloads die Anforderungen an die Serverinfrastruktur erhöht, wobei Speicherkapazität und Bandbreite immer entscheidender für die Gesamtsystemleistung werden; Intel validiert das 512-GB-DDR5-RDIMM gemeinsam mit Micron, um sich auf Serverplattformen der nächsten Generation vorzubereiten.
Micron rechnet damit, dass das 512-GB-RDIMM in der zweiten Hälfte des Jahres 2027 in die Serienproduktion geht, womit der Zeitplan an der Kundennachfrage ausgerichtet wird. Derzeit wurde dieses 512-GB-DDR5-RDIMM auf mehreren Serverplattformen demonstriert, wobei sowohl AMD als auch Intel gleichzeitig Validierungen durchführen; allerdings verbleibt von der Demonstration bis zum großflächigen Einsatz noch ein Zeitfenster von etwa anderthalb Jahren. In diesem Zeitraum wird sich der Wettbewerbsschwerpunkt bei Server-Speichern vom „Einstecken von mehr Modulen“ zum „höheren Stapeln pro Modul“ verlagern. Das Gleichgewicht zwischen Kapazität, Bandbreite und Energieeffizienz wird darüber entscheiden, wie große Modelle und wie stark beanspruchte Datenbanken KI-Server der nächsten Generation aufnehmen können.