Marvell lança o segundo gerador de expansores de memória CXL, suportando até 9TB de memória DDR4

A Marvell está mirando o crescimento da demanda trazido pela atualização da infraestrutura de inferência de IA com soluções de expansão de memória de maior capacidade e largura de banda.

Segundo reportagem da Bloomberg, em 12 de outubro, a Marvell lançou oficialmente os expansores de memória CXL de segunda geração Structera X 3406 e 3506. A empresa afirma que este é o primeiro expansor de memória CXL 3.2 de seis canais do setor, suportando até 9TB de DDR4 ou 6TB de DDR5 por controlador, um aumento de 50% no número de canais em relação à geração anterior. Os dois produtos devem começar a ser disponibilizados para amostras de clientes no primeiro trimestre de 2027.

Este lançamento visa resolver o gargalo de memória cada vez mais destacado nas cargas de trabalho de inferência de IA. Com o aumento do tamanho dos grandes modelos de linguagem (LLM), a extensão das janelas de contexto e o rápido crescimento da demanda por cache KV, a capacidade e largura de banda da memória das arquiteturas tradicionais de servidores estão sob maior pressão, tornando-se um fator crítico para o desempenho da IA e eficiência da infraestrutura.

Empresas como AMD, Arm, Alibaba, Samsung e SK Hynix expressaram apoio aos novos produtos e à cooperação do ecossistema relacionado.

Atualização tecnológica central: Mais canais, maior capacidade

Os Structera X 3406 e 3506 trouxeram upgrades na quantidade de canais de memória, capacidade de expansão e desempenho de compressão em relação à geração anterior.

Em termos de configuração de memória, ambos os produtos suportam seis canais de memória. O 3406 suporta 18 slots DDR4 RDIMM, com capacidade máxima de 9TB; o 3506 suporta 12 slots DDR5 RDIMM, com capacidade máxima de 6TB. Quanto à conectividade de hosts, ambos os modelos permitem o compartilhamento de recursos de memória por até quatro hosts, com largura de banda máxima de interconexão host de 256GB/s, utilizando interface PCIe 6.0 x16.

No desempenho de compressão, os novos produtos contam com um motor de compressão LZ4 integrado, com throughput de compressão e descompressão de até 250GB/s — cinco vezes superior à geração anterior — e podem expandir a capacidade efetiva de memória para 2 a 3 vezes o original.

A Marvell afirma que, em cenários de inferência de grandes modelos de linguagem, os novos produtos podem reduzir o tempo de resposta do primeiro byte (TTFT) em 40% a 50% com o mesmo comprimento de contexto; já em cenários de modelo de recomendação de deep learning (DLRM), a quantidade de queries por segundo com um único controlador pode duplicar em relação ao original, enquanto a capacidade efetiva da tabela de embeddings pode ser expandida para 2 a 3 vezes mais.

Mira em data centers de hiperescala, cooperação do ecossistema continua em expansão

A Marvell destaca que a segunda geração Structera X mantém o stack de software e os esquemas de integração de ecossistema dos produtos 2404/2504 da primeira geração, já vendidos para clientes de data centers de hiperescala, com o objetivo de acelerar a introdução dos novos produtos pelos clientes.

Diversos parceiros do setor declararam publicamente seu apoio. Raghu Nambiar, vice-presidente corporativo da AMD, disse que a colaboração entre as empresas, baseada na performance e escalabilidade dos processadores EPYC, ajuda as empresas a expandir a capacidade de memória e aumentar a eficiência dos recursos no contexto do crescimento da demanda por aplicações intensivas em IA e dados.

Eddie Ramirez, vice-presidente de go-to-market de IA cloud da Arm, afirmou que o Structera X incorpora CXL 3.2, expansão de memória e compressão ao ecossistema Arm, fornecendo mais opções para operação eficiente de cargas de trabalho complexas de IA em data centers de hiperescala.

Jangseok Choi, vice-presidente de planejamento de produtos de memória da Samsung Electronics, e Uksong Kang, responsável por planejamento e habilitação de produtos de próxima geração da SK Hynix, destacaram que ambas as empresas concluíram a validação dos produtos Structera da Marvell com suas respectivas memórias DDR.

Aprimorando portfólio de produtos CXL, focando em pooling e arquitetura desagregada de memória

Will Chu, vice-presidente executivo e gerente geral de soluções customizadas em nuvem da Marvell, afirmou que a empresa é a única fornecedora do mercado a oferecer um portfólio completo de produtos CXL de ponta a ponta, cobrindo múltiplos níveis: o Structera X para expansão de memória, o Structera A para aceleração próxima à memória e o PFMA (Photonic Fabric™ Memory Appliance) para compartilhamento de memória em nível de rack via CXL, abrangendo desde expansão direta até pooling e desagregação de memória para diferentes cenários de aplicação.

Jim Handy, gerente geral da Objective Analysis, apontou que o CXL está sendo gradualmente aplicado em sistemas de IA, e suas características de alta largura de banda e grande capacidade podem trazer benefícios significativos. Ele também afirmou que, diante da escassez e preços elevados de memória, gestores de TI estão considerando reutilizar módulos de memória DDR4 em sistemas DDR5 via CXL para reduzir custos; controladores com funcionalidades de compressão de memória podem tornar essa estratégia ainda mais atrativa.

Os Structera X 3406 e 3506 serão apresentados de 12 a 15 de outubro na OCP Global Summit em San José, Califórnia, e as amostras oficiais devem estar disponíveis no primeiro trimestre de 2027.