Компания Micron продемонстрировала мультиплатформенный 512-гигабайтный серверный модуль DDR5 RDIMM, который является первым в мире модулем памяти такой емкости, и, по словам компании, AMD и Intel в настоящее время тестируют его на своих серверных платформах следующего поколения. Модуль рассчитан на скорости до 9200 MT/с и позволяет поставить в 24-слотовый двухсокетный сервер в дополнение к двум процессорам 12 ТБ DDR5. Серийное производство запланировано на второе полугодие 2027.

Micron размещает чипы DRAM в каждой пачке вертикально друг над другом и соединяет их посредством сквозных кремниевых переходов (through-silicon vias, TSV) – такой же подход используется в компоновке памяти HBM. Большее количество чипов в пачке позволяет удвоить емкость модуля без изменения его формата и, соответственно, удвоить емкость серверной памяти без изменения количества слотов DIMM; таким образом, двухсокетная 24-слотовая система получает 12 ТБ памяти.
"Micron продолжает задавать темпы развития технологий памяти и предлагает новый класс ультраплотной высокопроизводительной серверной памяти, которая поможет заказчикам держать более большие датасеты ближе к вычислительным движкам, которые их используют," – сказал Радж Нарасимхан (Raj Narasimhan), старший вице-президент и генеральный менеджер бизнес-подразделения облачной памяти Micron. "512-гигабайтный модуль RDIMM позволяет строить серверы с мультитерабайтной оперативной памятью, поддерживающей более большие модели ИИ и базы данных, обеспечивающей большую плотность виртуализации и лучшую энергетическую эффективность, и все это – в рамках существующих серверных форм-факторов."
Пропускная способность 9200 MT/с – еще одно заметное достижение, намного превосходящее потолок DDR5-6400 стандартных RDIMM на текущей платформе Xeon 6, и поэтому Micron относит релиз нового модуля к следующему поколению платформ от обоих производителей процессоров, чтобы соответствующие скорости и емкости стали доступны одновременно с запуском цикла серверов 2027 года. Модули RDIMM от Micron использовались во многих наших тестовых системах Xeon 6 и EPYC, и именно с ними в этом году на сервере HPE XD230 был установлен рекорд STAC-A2.
В части энергетической эффективности Micron заявляет, что один 512-гигабайтный модуль RDIMM потребляет более чем на 60% меньшую мощность, чем четыре аналогичных 128-гигабайтных модуля, в совокупности предлагающих такую же емкость. 16 Вт для модуля 512 ГБ против 44.2 Вт для четырех модулей 128 ГБ (или примерно 31 мВт на гигабайт против 86 мВт) соответствуют снижению энергопотребления на 63.8%. Это сравнение предполагает, что в сервере есть четыре свободных слота для установки альтернативного решения. Более типичный случай подразумевает, что лимит слотов в сервере исчерпан, и тогда установка модуля 512 ГБ – это единственный способ увеличить емкость памяти. Плотность – весомый аргумент для многих пользовательских сценариев, как мы недавно показывали на примере их же 245-терабайтного SSD.
Что касается производительности, Micron заявляет 1.4-кратное, по сравнению с конфигурациями 256-гигабайтных модулей DDR5, ускорение нагрузок, лимитируемых памятью, таких как анализ данных на основе алгоритмов машинного обучения Spark SVM (Support Vector Machines). Кроме того, по словам компании, за счет более высокой пропускной способности модуль 512 ГБ позволяет повысить количество одновременно обрабатываемых запросов на платформах резидентных баз данных, интенсивно использующих память, таких как RocksDB и Redis.
Представители ведущих поставщиков CPU поделились мнениями о новом продукте, который они уже тестируют на своих платформах. "Наше тесное сотрудничество с Micron объединяет инновационные технологии памяти и вычислительного «железа», в результате чего заказчики могут полностью раскрыть потенциал платформ AMD," – сказал Амит Гоэл (Amit Goel), корпоративный вице-президент AMD по разработке вычислительных систем и платформенных решений для ИИ на предприятиях. Карин Эйбшитц Сегал (Karin Eibschitz Segal), генеральный менеджер по платформенному и системному инжинирингу Intel Data Center Group, сказала, что Intel "совместно с Micron работает над валидацией 512-гигабайтных модулей DDR5 RDIMM, чтобы в дальнейшем облегчить разработку новых серверных платформ, рассчитанных на все более требовательные нагрузки дата-центров следующего поколения".
Со стороны заказчиков выступил Даррин Алвес (Darrin Alves), директор по информационным технологиям инфраструктурных платформ банка JPMorgan Chase, который отметил, что модули памяти более высокой емкости "помогут предприятиям поддерживать более высокие нагрузки in-memory, повысить эффективность использования вычислительных ресурсов и обеспечить необходимую гибкость масштабирования современных вычислительных сред". Резидентные (in-memory) базы данных, масштабная виртуализация, инференс LLM на CPU и агентные нагрузки – перечисленные Micron типовые сценарии, где лимитирующим фактором является количество данных, которые сервер может держать в оперативной памяти, прежде чем отправить на дисковый накопитель.
Планирование запуска серийного производства на вторую половину 2027 года означает, что 512-гигабайтные модули RDIMM начнут продаваться примерно через год или более. В августе этого года Micron и SK Hynix вложили миллиарды в новые заводы, которые будут выпускать чипы DRAM, и на полную мощность эти заводы заработают не раньше 2028 года. А сроки выпуска модулей памяти зависят от выхода чипов, из которых они будут собираться.