Marvell випустила друге покоління CXL розширювача пам'яті, з максимальною підтримкою 9TB DDR4 пам'яті

Marvell розширює лінійку рішень для пам’яті з більшим обсягом та пропускною здатністю, орієнтуючись на зростання потреб для оновлення інфраструктури AI-інференсу.

За даними Bloomberg, 12 жовтня Marvell офіційно представила друге покоління Structera X 3406 і 3506 CXL розширювачів пам’яті. Компанія заявила, що це перші у галузі шестиканальні CXL 3.2 розширювачі пам’яті, кожен контролер підтримує до 9TB DDR4 або 6TB DDR5 пам’яті, кількість каналів пам’яті зросла на 50% у порівнянні з попереднім поколінням. Очікується, що зразки нових продуктів будуть доступні клієнтам у першому кварталі 2027 року.

Ця презентація спрямована на вирішення все більш значущих вузьких місць у пам’яті для робочих навантажень AI-інференсу. Зі збільшенням масштабів великих мовних моделей (LLM), розширенням контекстних вікон та швидким зростанням попиту на KV-кеші, традиційна серверна архітектура відчуває зростаючий тиск на обсяг та пропускну здатність пам’яті, і пам’ять поступово стає ключовим чинником, який обмежує продуктивність AI та ефективність інфраструктури.

AMD, Arm, Alibaba, Samsung та SK Hynix підтримали нові продукти та пов’язані з ними розширення екосистеми.

Основне технологічне оновлення: більше каналів, більший обсяг пам’яті

Structera X 3406 та 3506 отримали покращення щодо кількості каналів пам’яті, розширення обсягу та швидкості стиснення у порівнянні з попереднім поколінням.

Щодо конфігурації пам’яті обидва продукти підтримують шестиканальну пам’ять. 3406 підтримує 18 DDR4 RDIMM слотів із максимальним обсягом 9TB; 3506 має 12 DDR5 RDIMM слотів, максимальний обсяг становить 6TB. Щодо підключення хостів, обидва продукти дозволяють до чотирьох хостів спільно використовувати ресурси пам’яті, пропускна здатність між хостами сягає 256GB/s через інтерфейс PCIe 6.0 x16.

Щодо стиснення нові продукти мають вбудований LZ4-движок для стиснення з максимальною пропускною здатністю стиснення і декомпресії до 250GB/s, що у п’ять разів більше ніж у попереднього покоління, і дозволяє збільшити ефективний обсяг пам’яті у 2-3 рази.

Marvell зазначила, що для AI-інференсу на великих мовних моделях нові продукти можуть зменшити час відповіді на перший байт (TTFT) на 40-50% при однаковій довжині контексту; для глибоких рекомендаційних моделей (DLRM) кількість запитів на секунду з одним контролером може зрости до двох разів, а ефективний обсяг embedding-таблиць — до 2-3 разів.

Орієнтація на надмасштабні дата-центри, екосистема співпраці розширюється

Marvell заявила, що друге покоління Structera X використовує той же стек ПЗ і екосистемні інтеграційні рішення, як і перше покоління 2404/2504, які вже постачаються клієнтам надмасштабних дата-центрів, щоб прискорити впровадження нових продуктів клієнтами.

Кілька галузевих партнерів відкрито висловили підтримку. Віце-президент AMD Raghu Nambiar зазначив, що співпраця базується на продуктивності та масштабованості EPYC-процесорів і допомагає підприємствам розширювати обсяг пам’яті й ефективність ресурсів у ситуаціях зростання потреб для AI та дано-інтенсивних додатків.

Віце-президент щодо AI у хмарі Arm Eddie Ramirez сказав, що Structera X впроваджує CXL 3.2, розширення пам’яті та стиснення в екосистему Arm, надаючи надмасштабним дата-центрам більше опцій для ефективної роботи з комплексними навантаженнями AI.

Віце-президент із планування пам’яті Samsung Jangseok Choi та керівник планування та впровадження продуктів наступного покоління SK Hynix Uksong Kang зазначили, що відповідно завершили верифікацію Structera з DDR-пам’яттю кожної компанії.

Удосконалення CXL-лінійки, розвиток пулінгу та розподіленої архітектури пам’яті

Віце-президент і генеральний директор Marvell щодо кастомних хмарних рішень Will Chu підкреслив, що компанія є єдиним постачальником повної end-to-end CXL лінійки, охоплюючи кілька рівнів: Structera X для розширення пам’яті, Structera A для прискорення біля пам’яті, PFMA (Photonic Fabric™ Memory Appliance) для спільного використання пам’яті на рівні шафи, від прямого розширення пам’яті до пулінгу та розподілення для різних сценаріїв застосування.

Генеральний директор Objective Analysis Jim Handy зазначив, що CXL поступово впроваджується в AI-системи й його велика пропускна здатність і обсяг пам’яті можуть принести значні переваги. Він також додав, що в умовах дефіциту пам’яті та високих цін ІТ-менеджери розглядають використання CXL для повторного використання DDR4 модулів у DDR5 системах, щоб знизити витрати; контролери з функцією стиснення пам’яті можуть додатково підвищити привабливість таких рішень.

Structera X 3406 та 3506 будуть представлені з 12 по 15 жовтня на глобальному саміті OCP в Сан-Хосе, Каліфорнія; офіційні зразки очікуються у першому кварталі 2027 року.