Nvidia suniy intellekt uchun xotira to'liq stek hamkorlik dizaynini taklif qilmoqda, Vera Rubin platformasida har bir GPU xotira sig'imi atigi taxminan 3% ga oshgan, lekin inferens o‘tkazuvchanligi maksimal 30 marta ortgan.

NVIDIA ta'kidlashicha, AI modellari hajmi kattalashgani, kontekst oynalari kengaygani va agent ilovalari ommalashgani sari GPU xotirasi bosimi doimiy oshib bormoqda, HBM ta'minoti siqilmoqda va narxi oshmoqda. NVIDIA, GPU xotirasi hajmini shunchaki oshirish o‘rniga, GPU, CPU, tarmoq, saqlash tizimi va dasturiy ta’minotni muvofiqlashtirib loyihalash orqali xotira samaradorligini oshirishni taklif qilmoqda. Aniq aytganda, NVIDIA NVFP4 past aniqlikdagi format orqali model og‘irliklari va KV Cache’ni siqadi, vaqtincha faol bo‘lmagan kontekstlarni arzonroq saqlash qatlami tomon ko‘chiradi va bir necha GPUli taqsimlangan joylashtirish yordamida HBM xotira joyini bo‘shatadi. NVIDIA ma’lum qilishicha, SemiAnalysis AgentX testi natijalariga ko‘ra, GB300 NVL72 ma’lum ish yuklarida har bir birlik qiymati bo‘yicha tahlil o‘tkazish samaradorligi H200 platformasidan 10 baravargacha yuqori; Vera Rubin NVL72 esa GB300 NVL72 bilan solishtirganda, birlik qiymati bo‘yicha tahlil o‘tkazish samaradorligini 30 baravargacha oshirgan, shu bilan birga yagona GPU HBM xotirasi hajmi atigi taxminan 3% ga oshgan xolos.