Korea Economic Daily: когда AI CPU поглощают DRAM — дефицит памяти продолжится еще год!

Отрасль памяти достигла рекордных показателей благодаря росту цен на товарный DRAM более чем на 100%. С учетом того, что центральные процессоры (CPU), разработанные специально для AI, уже введены в эксплуатацию, прогнозируется, что дефицит сохранится еще год.

Недавно выпущенный “AI CPU” от Intel, как ожидается, будет иметь до четырех раз больше товарного DRAM по сравнению с предыдущим поколением. В сочетании с ростом спроса на высокоемкий DRAM со стороны графических процессоров (GPU), наблюдатели ожидают, что производственных мощностей Samsung Electronics и SK Hynix для поставок памяти не хватит для удовлетворения спроса.По данным отраслевых источников на 2-е число,производители CPU стремятся интегрировать 300–400GB DRAM в AI CPU. Это в четыре раза больше масштабов, чем у типичных CPU-продуктов (96–256GB), что впечатляет.CPU выходит на первый план, становясь “AI-координатором”Резкое увеличение спроса AI CPU на высокоемкий DRAM связано с переходом AI-индустрии к структуре с фокусом на inference. Если ранее inference AI ограничивался простыми вопросами и ответами, то сейчас он стал “координатором” для различных агентских AI.Ключевой фактор этого процесса — “контекстная память”. CPU должны помнить контент, чтобы координировать весь рабочий процесс, ссылаясь на вывод каждого агентского AI. Поэтому расширение памяти — то есть пространства хранения — крайне важно.До сих пор AI-центры данных строили вычислительную инфраструктуру вокруг GPU с поддержкой памяти высокой пропускной способности (HBM). Используя преимущества GPU для одновременной обработки огромных объемов данных при обучении AI, акцент делался на “AI training”. Конфигурация серверов соответственно следовала схеме 8 GPU к 1 CPU. Однако с переключением отраслевого внимания на inference увеличенные конфигурации серверов с бóльшей долей CPU начинают распространяться.В ходе недавнего отчета о прибыли руководители Intel пояснили: “В инфраструктуре AI inference вычислительная структура смещается к соотношению CPU к GPU 1:4, и эта тенденция движется к 1:1.”После GPU CPU также вступают в борьбу за память — спрос растет лавинообразноКонкуренция за объем памяти расширилась от GPU к CPU — масштабы стремительно растут. Следующее поколение AI-чипов NVIDIA “Vera Rubin” с восемью HBM-стеками имеет объем 288GB, а следующий GPU AMD MI400 — гигантский объем 432GB.Google недавно выпустила кастомный чип — восьмое поколениеTensor Processing Unit (TPU 8i), который также будет оснащен 288GB HBM. Кроме того, AI CPU Intel “Xeon” и AMD “EPYC” начинают использовать DDR5 высокой емкости до 400GB, поэтому дефицит памяти, вероятно, продлится еще дольше.Жаркая рыночная динамика подтверждается спотовыми ценами. Согласно данным Kiwoom Securities, в апреле цена старой DDR4 (базовая емкость 16GB) за месяц упала на 16%, а спотовая цена DDR5 (16GB), используемой для AI CPU, за тот же период выросла на 2,8%, сохраняя ценовую премию.Один из отраслевых источников отметил:“В настоящее время рынок DRAM считается недостающим по спросу примерно на 10 процентных пунктов. С учетом резкого увеличения спроса на товарный DRAM помимо HBM, большой цикл, скорее всего, продлится с первоначально ожидаемого 2026 года до 2027 года.”