Micron lanza memoria DDR5 de 512 GB para servidores, diseñada para reducir el consumo energético operativo en más de un 60%

TradingKey - Micron Technology (MU) anunció el 15 de septiembre que ha demostrado con éxito el primer módulo RDIMM DDR5 de 512 GB del mundo con velocidades de hasta 9.200 MT/s en múltiples plataformas de servidores. Según el comunicado de prensa oficial de Micron, el módulo utiliza una avanzada tecnología de empaquetado de interconexión vertical, lo que permite que un solo servidor de doble zócalo y 24 ranuras admita hasta 12 TB de memoria DDR5, al tiempo que reduce el consumo eléctrico operativo en más de un 60% en comparación con cuatro RDIMM de 128 GB.

Los modelos de lenguaje de gran tamaño (LLM), la IA de agentes, la inferencia en tiempo real y las cargas de trabajo de CPU con un elevado número de núcleos son los principales impulsores de esta ola de demanda de memoria para servidores. Si la capacidad no logra estar a la altura, los datos deben transferirse repetidamente entre la memoria y las capas de almacenamiento más lentas, lo que incrementa tanto la latencia como el consumo de energía. El valor del RDIMM de 512 GB radica en mantener conjuntos de datos más grandes en la memoria principal, reduciendo la dependencia de niveles de almacenamiento más lentos y minimizando las costosas transferencias de datos.

Darrin Alves, director de información de Plataformas de Infraestructura en JPMorgan Chase, afirmó que la tecnología de memoria de mayor capacidad ayuda a las empresas a admitir cargas de trabajo en memoria más grandes, mejorar la utilización de recursos y aumentar la flexibilidad de escalado necesaria en los entornos informáticos modernos.

Para los operadores de centros de datos, otro aspecto destacado de este módulo de memoria de ultraalta densidad es la eficiencia energética. En comparación con una configuración que utiliza cuatro módulos de 128 GB, un solo módulo de 512 GB reduce el consumo eléctrico operativo en más de un 60%, lo que promete reducir el consumo de energía de los centros de datos al tiempo que amplía la capacidad de memoria.

Avance en la tecnología de memoria de Micron: de añadir ranuras al apilamiento vertical

En el pasado, el enfoque convencional para aumentar la capacidad de memoria de los servidores consistía en añadir más módulos de memoria a la placa, a costa de incrementos simultáneos en el consumo energético, la disipación de calor y el número de ranuras.

En esta ocasión, Micron se centró en el empaquetado: apilar verticalmente múltiples matrices DRAM e interconectarlas mediante vías a través de silicio (TSV) para llevar la densidad al límite dentro de un único encapsulado DRAM, al tiempo que mantiene el rendimiento exigido por las arquitecturas modernas de centros de datos. Al sustituir un solo módulo a varios módulos de memoria, los fabricantes de servidores no necesitan rediseñar sistemas completos para aumentar la capacidad.

Raj Narasimhan, vicepresidente sénior y director general de la Unidad de Negocio de Memoria para la Nube de Micron, afirmó que la compañía sigue impulsando el ritmo de la tecnología de memoria, y que el RDIMM de 512 GB permite a los servidores alcanzar capacidades de memoria de varios terabytes dentro de las dimensiones físicas existentes, lo que admite mayores cargas de trabajo de IA y bases de datos, una mayor densidad de virtualización y una eficiencia energética superior.

Según Micron, el consumo de energía en funcionamiento del RDIMM de 512 GB es más de un 60% inferior al de cuatro RDIMM de 128 GB. Para la misma capacidad de 512 GB, el primero depende de un único módulo, un solo conjunto de pistas y un único sistema de alimentación, mientras que el segundo requiere cuatro módulos trabajando en paralelo.

Micron afirma que en cargas de trabajo analíticas con limitaciones de memoria, como las máquinas de vectores de soporte (SVM) de Spark, el RDIMM de 512 GB ofrece una mejora del rendimiento de hasta 1,4 veces en comparación con una configuración DDR5 de 256 GB. Para plataformas de almacenamiento en caché y bases de datos con uso intensivo de memoria como RocksDB y Redis, una mayor capacidad por módulo se traduce en un mayor rendimiento, una mayor concurrencia y un escalado de conjuntos de datos más sencillo.

AMD e Intel avanzan simultáneamente en la validación del ecosistema

AMD e Intel están validando actualmente este RDIMM DDR5 de 512 GB.

Amit Goel, vicepresidente de Ingeniería de Soluciones para Plataformas de Computación e IA Empresarial en AMD, afirmó que, a medida que la IA y las cargas de trabajo con uso intensivo de datos redefinen la demanda de infraestructura, la colaboración en ingeniería entre AMD y Micron une la innovación en computación y memoria, ayudando a los clientes a aprovechar todo el valor de las plataformas basadas en AMD.

Karin Eibschitz Segal, directora general de Ingeniería de Plataformas y Sistemas del Grupo de Centros de Datos de Intel, señaló que el crecimiento de la IA y otras cargas de trabajo con uso intensivo de datos está aumentando las exigencias para la infraestructura de servidores, siendo la capacidad de memoria y el ancho de banda cada vez más críticos para el rendimiento general del sistema; Intel está validando el RDIMM DDR5 de 512 GB con Micron para prepararse para las plataformas de servidores de próxima generación.

Micron prevé que el RDIMM de 512 GB entre en producción a gran escala en el segundo semestre de 2027, alineando su cronograma con la demanda de los clientes. Actualmente, este RDIMM DDR5 de 512 GB se ha demostrado en múltiples plataformas de servidores, y tanto AMD como Intel están realizando validaciones de forma simultánea; sin embargo, aún queda un margen de aproximadamente un año y medio desde la demostración hasta su despliegue a gran escala. Durante este período, el enfoque competitivo en el mercado de memorias para servidores pasará de "conectar más módulos" a "apilar a mayor altura por módulo". El equilibrio entre capacidad, ancho de banda y eficiencia energética determinará qué tan grande puede ser el modelo y qué tan exigente la base de datos que los servidores de IA de próxima generación podrán albergar.