AI infratuzilmasi "devor"ga urildi! Marvell: mis ulanishlar va xotira tiqilishi keyingi bosqichdagi hisoblash quvvati kengayishining muhim omilga aylanadi

AI hisoblash quvvatlari bo‘yicha musobaqa endi faqat chiplar darajasidagi raqobatdan, ulanish, xotira va tarmoqni qamrab olgan tizim darajasidagi kurashga aylanyapti.

Marvell rahbari Six Five Summit 2026 tadbirida, inferensiya modellari xotira talablarini keskin oshirayotgani va ma'lumot markazlari hajmi fizik chegaralardan o‘tib ketayotgani sababli, mis ulanish texnologiyasi ko‘rsatkichlar bo‘yicha deyarli shiftga yetib kelganini, optik ulanish va xotira kengaytirish texnologiyalari keyingi bosqich hisoblash quvvatini kengaytirishning asosiy omiliga aylanayotganini ta'kidladi. Marvell moslashtirilgan bulut yechimlari biznesi bo‘yicha ijrochi vitse-prezident Will Chu shunday dedi: Bozor uzoq vaqt XPU ustiga e'tibor qaratdi, lekin XPU atrofidagi "biriktiriluvchi qatlam"ni – ya'ni tarmoq, xotira, saqlash va xavfsizlikni – e'tibordan chetda qoldirdi. "Har bir XPU orqasida uch-to‘rt yoki undan ortiq moslashtirilgan imkoniyatlar bo‘ladi", dedi u, "AI infratuzilmasi to‘liq moslashtirishga qarab siljimoqda".

Ma'lumot markazi tarmoqlari guruhi ijrochi vitse-prezidenti Dave Lazovsky esa quyidagilarga e'tibor qaratdi: Inferensiya vaqtida hisoblash (inference time compute) ommalashgani natijasida so‘nggi to‘qqiz oyda KV kesh talablar taxminan 10 barobarga oshdi, va xotira hajmi allaqachon bir rack (stoyka) ichida ta'minlab bo‘lmayapti; keng ko‘lamli joriy etish faqat kattaroq ulanish doirasiga chiqishni talab qiladi.

Ushbu taxmin bozor uchun to‘g‘ridan-to‘g‘ri investitsion ma’noga ega: xotira ishlab chiqaruvchilar, optik ulanish yetkazib beruvchilar va moslashtirilgan kremniy dizayn kompaniyalari bunday struktural talabdan foyda ko‘ra beradi. Analitik agentliklarning prognozlariga ko‘ra, 2025-2030 yillarda global ma'lumot markazi infratuzilmasiga jamlangan kapital xarajatlar 4-5 trln AQSH dollarini tashkil etadi.

Dave Lazovsky misdan optikaga o‘tishni AI infratuzilmasining majburiy bosqichi sifatida belgilaydi – bu tanlovli yangilanish emas. Sababi modelning o‘z evolyutsion mantiqda: ilk ulkan bazaviy modellarda umumiy xotira hajmiga muayyan talab paydo bo‘lgan bo‘lsa, inferensiya modellarning ommashuvi hamda KV keshning portlovchi o‘sishi, har bir rack ichidagi HBM sig‘imi ilg‘or modellar uchun yetarli bo‘lmay qolmoqda.

"Sizda boshqa yo‘l yo‘q," dedi u, "ulanish hajmini 144 ta XPU dan keyingi to‘lqinda taxminan 576 ta XPU ni o‘z ichiga oluvchi Podga, va undan ham kengaytirishga majbur bo‘lasiz." Bunday kengayishning fizik asosi, misdan optik ulanishga o‘tishda yotadi.

Marvell hozirda Board-level Optics (NPO) va Co-Packaged Optics (CPO) yo‘nalishlarini birga olib bormoqda, va allaqachon Ethernet hamda UAL protokollaridagi switchlarda CPO yechimlarini joriy qilgan. Will Chu aytishicha, Marvell mijozlarga an’anaviy misdan NPO va unda CPO ga to‘liq o‘tishning kompleks yo‘lini taklif qilishga qodir, va moslashtirish imkonini hisoblash, IO interfeyslardan switch portigacha bo‘lgan zanjir bo‘ylab yetkazadi.

Dave Lazovsky ayniqsa Marvell ning analog SerDes texnologiyasi farqli qiymatini urg‘uladi: an’anaviy 2.4T SerDes asosidagi optik yo‘llarga nisbatan, analog SerDes asosida Scale Up Network (kengayuvchi tarmoq) energiya iste’molini 4 barobarga qisqartiradi, va to‘liq joriy qilinganda ma’lumot markazi umumiy elektr iste’molini 25% dan ko‘proqqa kamaytiradi. Elektr infratuzilmasi jiddiy tanqis bo‘lgan sharoitda, ushbu samaradorlik tobora ko‘proq strategik ahamiyatga ega bo‘lmoqda.

Will Chu xotira “bottleneck”ini hozirgi AI infratuzilmasining asosiy muhandislik muammosi deb ta’riflaydi hamda Marvellning bunday muammoni yengish strategiyasini chip ichidan rack tashqarisigacha bir nechta bosqichga bo‘ladi.

Chip ichida Marvell patentli yuqori zichlikdagi SRAM IPlarni tatbiq etmoqda, hisoblash bloklari bilan zich bog‘langan dizayn orqali unumdorlikni oshiryapti va yirik modellarni chip ichida joylashtirish imkonini beradi. Unga ko‘ra, an’anaviy universal xotira kompilyatorlari endi mijozlar talabini qondira olmaydi.

Chip tashqarisida esa, yo‘nalishlar quyidagicha: maxsus HBM ni integratsiya qilib, o‘tkazuvchanlik va sig‘imni oshirish; 3D stack texnologiyasi yordamida xotirani mantiqiy chip ustiga joylashtirish; CXL yoki maxsus protokollar orqali xotirani kengaytirish (sig‘im evaziga o‘tkazuvchanlikka), va Marvell FMSda taqdim etgan Photonic Fabric Memory qurilmasi orqali mustaqil rack ichida 32TB li tashqi xotira poolini yaratish.

Dave Lazovsky ta’kidlashicha, ushbu Photonic Fabric Memory tizimi DDRning sig‘imi va narx afzalliklarini, HBMning yuqori o‘tkazuvchanligi hamda ko‘p pseudo-channel parallel xususiyatlari bilan birlashtiradi. Maqsad – mijozlarga ilk bor xotira sig‘imini va o‘tkazuvchanligini mustaqil kengaytirish imkonini berish, hisoblash resurslardan to‘liq ajratish.

Will Chu, xotira narxining yuqoriligi natijasida ulkan bulut provayderlari endi o‘z infratuzilmasi arxitekturasini qayta ko‘rib chiqishga majbur bo‘lyapti, deya ta’kidladi. Marvell'ning CXL mahsulotlariga talab sezilarli: ayrim mijozlar eski xotirani yangi serverlarga ulash uchun, ba’zilari esa xotira siqish orqali 2 barobar ekvivalent sig‘im olish uchun so‘rovlar bermoqda. Flash darajasidagi xotira tier-lash yechimlari ham ko‘plab ishlab chiqaruvchilarning ko‘z o‘ngida, bu esa sig‘imni yanada arzon yo‘l bilan oshirish imkonini beradi.

Dave Lazovsky aytishicha, hozirga kelib taxminan to‘rt kompaniya ma’lumot markazi infratuzilmasining manzilli bozori 75% dan ortig‘ini egallagan. Bozorning bunday yuqori konsentratsiyasi Marvell kompaniyasiga boshqa – ko‘plab tarqoq mijozlar uchun gullab-yashnaydigan modeldan farqli o‘laroq – mijozning ishlab chiqish guruhiga bevosita integratsiyalanish, bir necha yil oldin navbatdagi switch talablarini hamkorlikda loyihalash imkonini beradi.

U kengayuvchi tarmoq (Scale Up Network) uchun uchta asosiy yo‘lni tasvirlaydi: ayrim kompaniyalar Ethernet yechimiga, yana boshqalar UAL protokoliga – bu NVLink ga o‘xshash, xotira semantikasida yuklash-va-saqlashga asoslangan yuqori samarador tarmoq bo‘lib, Dave Lazovsky nazarida, bu Ethernet paketga nisbatan ancha samaraliroq; yana bir kompaniya butunlay o‘z xususiy topologiyasini joriy qilmoqda.

Will Chu to‘ldirib aytdiki, XPU va kengayuvchi tarmoq o‘rtasidagi zich bog‘lanish, majburiy tarzda protokol qatlamlari va optimallashtirish strategiyalarning chuqur moslashtirilishi va, oxir-oqibatda, moslashtirilgan kremniyga (chipga) aylanishini taqozo etadi. "Hamma kompaniyalar ham end-to-endga erisha olmaydi", dedi u, "biz esa nafaqat shuni bajarishga, balki ularga asosiy infratuzilmani bevosita loyihalashda yordamchi bo‘lishga qodirmiz."

Dave Lazovsky ham aytishicha, Marvell ning eng katta aktivlaridan biri – yirik ulkan provayderlar va GPU ishlab chiqaruvchilar bilan o‘rnatilgan uzoq muddatli ishonch aloqasidir. "Bunga ko‘p yillik mehnat ketadi, bizda esa bu ishonch allaqachon mavjud."

Quyida to‘liq intervyu matni keltiriladi:

Patrick Moorhead｜00:17

Six Five Summit 2026 ga xush kelibsiz. Bu yilgi mavzu: "AI potensialini ozod qilish". Barcha suhbatlarimga Daniel Newman hamrohlik qiladi. Do‘stim, so‘nggi vaqtlarda ishlaringiz qalay?

Daniel Newman｜00:38

Yaxshi. Bu yilgi o‘zgarishlar juda hayratlanarli: hisoblash albatta katta ahamiyatga ega, lekin bog‘lanish texnologiyalari ham hozir peshvozda, hammaning diqqati mana shunda.

Har doim bir bottleneckdan boshqasiga o‘tyapmiz. Aytganingizdek, hozir bog‘lanish texnologiyasi e’tiborni markazida, lekin bu yil deyarli barcha bo‘g‘inlarda muammo boshdan kechdi. Dastlab hisoblash, so‘ng CPU muhimligi GPUdan o‘tib ketdi, keyin xotira muhim bo‘lib qoldi. Endi esa muammo faqat bog‘lanishda emas, optik ulanish yanada e’tiborda. Agar xohlasangiz, energiya haqida ham gaplashishimiz mumkin. Pat, birin-ketin muhim mavzular o‘tmoqda, bu yil o‘zgacha.

Patrick Moorhead｜01:02

Hozir biz Marvell bosh ofisida turibmiz va oldinda moslashtirilgan chiplar, xotira va ulanish haqidagi muhokamalar kutmoqda. Will va Dave bilan tanishtiryapman, sizlarni ko‘rib turganimdan xursandman.

Dave Lazovsky｜01:14

Chaqirganingiz uchun katta rahmat.

Patrick Moorhead｜01:16

Bu safar siz bilan suhbat qilib tashrifingizdan juda mamnunman. Sizlarning sahnadagi chiqishlaringizni ko‘rdim, tahlilchi kunlaringiz va mahsulot anjumanlaringizda qatnashganman. Bugun Six Five ga sizlarni taklif qilib, nihoyatda xursandman.

Daniel Newman｜01:26

Sizlarni shu yerda ko‘rganimdan xursandman, va tabriklayman. Yaqinda bir korxonani sotib olganingizni bilaman, hammasi muvaffaqiyatli kechmoqda. Bir necha katta ishlar haliyam oldinda.

Pat, siz bog‘lanish texnologiyasi haqida gapirdingiz. Marvellning qiziq tomoni shundaki, u deyarli barcha qadamda ishlab: chiplar, xotira, bog‘lanish, va shuningdek scale-up, scale-out, hamda scale-across bo‘yicha. Har yo‘nalishda bor; nimani qilish zarur bo‘lsa, shuni qilmoqda.

Daniel Newman｜01:49

Nazarda tutyapsizki, odamlar ko‘proq "Mr. Mom" filmini biladimi? Bilib ko‘ramiz.

Will, avval sizga savolim bor. Siz boshqarayotgan biznes, yarimo‘tkazgichlar sohasidagi eng tez rivojlanayotgan bizneslardan biri. Huang Renxun sizlarni navbatdagi 1 trillion dollarlik kompaniya deb atagani esimda. Bu ma'lum darajada bosimga sabab, lekin sizlar chindan ham shu yo‘lda oldinga boryapsizlar.

Daniel Newman｜02:12

Aytsa bo‘ladi, so‘nggi yillarda Marvell diqqat markaziga chiqishida moslashtirilgan chiplar biznesi asosiy rol o‘ynagan. Lekin sizlarda xotira kengaytirish arxitekturasi, scale-up tarmoq ulanishlari va scale-across bog‘lanishlarni ham qamrab olgan ko‘plab yo‘nalishlar bor.

Men sizdan umumiy biznes nuqtai nazaridan fikringizni eshitmoqchiman. Bozor XPU va moslashtirilgan chiplarga juda ko‘p e'tibor qaratmoqda, unda nimalar haqiqatda to‘g‘ri, nimadan ko‘z yumilgan? Chunki bu galgi AI bumini keskin surayotgan ko‘plab omillar bor, faqat XPU emas.

Will Chu｜02:52

Yaxshi savol, Daniel.

Daniel Newman｜02:54

Ancha kirish so‘zidan keyin so‘radim-da.

Will Chu｜02:55

Marvellga tashrif buyurganingiz uchun minnatdorman. Haqiqatan, bozor XPU ni AI infratuzilmasida moslashtirish lozim bo‘lgan asosiy bo‘lak sifatida ko‘radi. Shu bois, biz XPU Attach, ya’ni XPU atrofidagi turli qismlarga ko‘p vaqt sarfladik.

Umuman olganda, AI infratuzilmasining har bir qismi ham moslashtirish sari yo‘naltirilmoqda. XPU ni ish yuklamasiga ko‘ra moslashtirish lozim bo‘lsa, uning hamma atrofi ham xuddi shunday: tarmoq, xotira, saqlash va hatto xavfsizlik ham. Biz ushbu asosiy yo‘nalishlarda ham qatnashyapmiz, va XPU chindan ham kuchli bo‘lishi uchun zarur yordamni taqdim etamiz.

Bu erda juda ko‘p imkoniyatlar bor. Agar faqat imkoniyatlar soniga qaralsa, bir XPUga uch, to‘rtta, va undan ortiq moslashtirilgan XPU Attach imkoniyatlari to‘g‘ri keladi, bu esa keyingi avlod mahsulotlarni qo‘llab-quvvatlashga yordam beradi. Ular bizning bog‘lanish va tarmoq mahsulotlarimiz bilan ham moslashadi. Shunday qilib, biz to‘liq "end to end" yechim taklif qila olamiz.

Daniel Newman｜04:06

Agar bozorda faqat XPU orqali ishlaringizni tasavvur qilinsa, chindan ham katta qismini o‘tkazib yuborishadi.

Dave Lazovsky｜04:10

Bu juda muhim. Will jamoasi moslashtirilgan XPU bo‘yicha qildi ishlaridan biri – I/O interfeyslari. Marvell I/O texnologiyalari bo‘yicha ilg‘or kompaniyalardan biri.

Hozirga kelib, jamoatchilik va bozor optik ulanishga juda e'tibor qaratmoqda. Biz optik ulanish sohasida eng kuchli jamoaga egamiz, deb hisoblayman. Shuningdek, bizning SerDes texnologiyamiz ham to‘ldiruvchi ro‘lda: hozir 224 Gbps, tez orada 448 Gbps bo‘ladi. Ushbu texnologiyalarni XPU tomoniga birlashtirib, tarmoq yechimlarini ham, scale-up tarmoq ulanishlarini ham optimallashtira olamiz.

Dave Lazovsky｜04:55

Bozor hozir nafaqat juda yirik – tarixda eng katta infratuzilma investitsiyamiz – balki u juda konsentrlangan. To‘rtta kompaniya umumiy ma’lumot markazi infratuzilmasi bozorining 75% dan ko‘prog‘iga egalik qiladi.

Bu bizga butunlay boshqa biznes modeldan foydalanish imkonini beradi, an’anaviy 40 ta kompaniya bilan ishlashdan farqli. Mijoz talablariga bevosita moslashtirilgan mahsulot taqdim eta olamiz, bu faqat XPU emas, scale-out va scale-up tarmoqlarga ham tadbiq etiladi.

Bu misli ko‘rilmagan imkoniyat, biz mijozlar bilan chuqur hamkorlik qilamiz. Ular deyarli bizni o‘z ishlab chiqish guruhlarining bir qismi deb biladi.

Daniel Newman｜05:43

Qiziqarli. Yangi prognoz chiqardik, endi 2030 yilgacha jamlangan kapital xarajatlarni baholadik. Nima deb o‘ylaysiz, bu raqam nechiga yetadi?

Dave Lazovsky｜05:57

Taxminan 4.5 trillion dollar, demoqchi edim.

Daniel Newman｜05:59

To‘rt-besh trillion dollar, ha. Lekin barcha ma’lumot markazi infratuzilmasi jami investitsiyasini olsak, 12 trillion dollarga yetadi. Siz ehtimol faqat chiplarni hisobladiz, biz esa barcha infrastrukturani. Faqat chiplarni olsak, sizniki ham to‘g‘ri.

Aytgancha, bir chorak oldin bu prognozimiz hamon 10.7 trillion dollar edi. Bu imkoniyat qanchalik katta va o‘zgarish tez – uni yetib olish qiyin, juda ajabtovur.

Patrick Moorhead｜06:19

Oldin ham ta’kidlashimcha, tarmoq va tizim elementlari o‘rtasidagi muvozanat doim muhim, masala faqat qaysi bo‘g‘in eng ko‘p sekinlik qiladi.

Asosiy tizim arxitekturasi bo‘yicha, istalgan holatda, GPU yoki XPU bo‘lsa ham, rack ichida muammo bo‘lsa, butun rack kengayadi; bitta rack yetmasa, yonidagi rack ulanadi. Katta klasterlar yig‘ilgach, yana tashqariga yoki boshqa ma’lumot markaziga ulanish zarurati tug‘iladi.

Patrick Moorhead｜06:52

Hozir deyarli har joyda bir mojaro bor: CPO, ya’ni co-packaged optics texnologiyasi necha vaqtda haqiqiy mainstream bo‘ladi? CPOning turli shaklini tortishmaylik, savolim: XPU CPO joriy qilishda asosiy turtkiga aylanadimi?

Dave Lazovsky｜07:16

Aslida, asosiy rag‘bat AI infratuzilmasidan kelib chiqadi. Nima sababdan scale-up tarmoq mis ulanishdan optik ulanishga o‘tishi shart – modeldagi evolyutsiya natijasidir.

Dastlab ulkan bazaviy modellar paydo bo‘lib, bitta scale-up sohasida xotira sig‘imiga talab paydo qilgan. So‘nggi 24 oyda esa, o‘zgarish inferensiya modellaridan: inferensiya bosqichida hisoblash ortdi. Bu faqat model parametrlari uchun emas, KV kesh uchun ham talabni oshirdi. So‘nggi 9 oyda KV kesh hajmi 10 barobarga oshdi va barcha xotirada bo‘lishi shart. Mana nima uchun Micron, SK hynix kabilarining qiymati trillion dollarli kompaniyalarga aylandi.

Bu modellar xizmat ko‘rsatishi uchun HBMda yetarli xotira sig‘imini joylashtirishning yagona yo‘li – tizimni rackdan tashqariga kengaytirish. 144 XPUlik ulanishdan chiqib, navbatdagi, taxminan 576 xil XPUdan iborat pod, va undan ham ortiq kengaytirish shart.

Patrick Moorhead｜08:35

Marvell ushbu o‘zgarishda qayerda? Scale-up uchun co-packaged optics bo‘yicha so‘rayapman.

Dave Lazovsky｜08:45

Biz co-packaged opticsga bir nechta yo‘nalishda tayinlanamiz. Hozir ko‘pchilik NPO (Near Package Optics) va CPO farqlariga e’tibor beradi. Qaysi biri kerak bo‘lsa, bizda "bor" – javob o‘zgaradi, lekin pullik texnologiya to‘plami to‘liq.

O‘z switching chiplarimizda, texnologiyamizga ishonganimiz uchun, bevosita yoki pack-jihatdan CPO o‘rnatilmoqda. Ethernetga asoslangan tizimlarda ham, scale-up uchun UALink tizimlarida ham shunday.

XPU tomoniga ham ulanish yechimlari ishlab turibdi. Hozir bir nechta CPO va NPO hamkorlik loyihalari bor. Avvallari NPOni eng birinchi deployed optik bog‘laydigan texnologiya sifatida tanlash, mijozlarga xotirjamlik beradi. Albatta, har bir variantning o‘z qusurlari va afzalliklari bor.

Will Chu｜09:47

Dave ta’kidigan XPU tomoni bo‘yicha to‘ldiraman. Avval, an’anaviy yo‘l – mis ulanish uchun, masalan, I/O kichik chiplarni yaratish. Lekin mis ulanish chegarasiga yetganingizda, optikka o‘tganda, switch chiplarimizda allaqachon to‘liq texnologik to‘plamni ko‘rsatganmiz va mijozlarga misdan NPOga, undan CPOga o‘tishda yordam bera olamiz.

Biz butun loyiha tezligini, ritmini va talabini mijozga mos holda moslashtira olamiz: hisoblashing, IO, va halqaning narigi chetidagi switching chipgacha. Haqiqatan ham to‘liq portfelga egamiz.

Dave Lazovsky｜10:24

Yana bir narsa: halqaning ikki tomonida bir xil I/Odan foydalanish mijoz uchun juda ahamiyatli. Bu ayniqsa scale-up tarmoq ulanishida to‘g‘ri.

XPU va scale-up switch o‘rtasida, ikki tomonda ham 224 Gbps mis SerDes yoki optik ulanishdan foydalansa ham, natija bir xil.

Optik ulanish to‘plamimiz Fast Pipe deb ataladi, tezligi 200 Gbpsdan 400 Gbpsga oshadi; yana Orig transkripsiyada "Flat Pipe" deb nomlangan – 56 Gbps NRZ, taxminan 112 Gbpsga ko‘tariladi. Analog SerDes energiya samaradorligida juda ustun.

Will Chu｜11:05

Yana bir narsa: bunday "end to end" yechimlarni bera oladigan kompaniyalar kam, biz esa ularning birimiz. Mijoz bilan ikki tomondagi halqa dizaynini birga muhokama qilamiz va kelgusi avlod infratuzilmasini ularning ehtiyojlarini qondirish uchun rejalashtiramiz. Bu ham yana avvalgi gapimizga tayanch: biz faqat XPU kompaniyasi emasmiz.

Daniel Newman｜11:25

Bozor ilgari faqat XPUga e'tibor qaratardi.

Patrick Moorhead｜11:27

O‘sha paytda juda muhim edi. Lekin qator bosqichlardan so‘ng, bu masalaga barcha tobora ravshanroq yondashdi.

Daniel Newman｜11:35

Six Five’da sizlarning prezidenti va COOsi Chris Koopmans bilan bir necha marta ajoyib intervyular qildik, bu savolga ham chuqur yondashildi. Imkon topganlar o‘qib chiqsin.

Yuqorida xotira “devari” aytib o‘tildi. Qiziq davr: oldin xotira – commodity, yirik hajmdagi ommaviy mahsulot; savdo daromadining marjasi ham salbiy edi, endi esa industraning rekord marjalarini keltirib chiqarmoqda.

Daniel Newman｜12:02

Albatta, bunday kompaniyalarga e’tibor ishlaydi, ayniqsa, faqat NAND va DRAM emas, HBMga o‘tishga harakat qilganlar eng muhim tuzilmaviy turtkich bo‘ldi.

Bu yerda ham ko‘plab yo‘llar sinab ko‘rilmoqda: yuqori zichlikli SRAM, xotira pool-lash va turli kreativ arxitekturalar. Fikrimizcha, bugungi kunda har bir chip dizayn kompaniyasi xotira “devari”ni bosib o‘tish yo‘lini izlamoqda. Hamma bo‘g‘inlarga yechim topsa ham, yana ham ko‘proq xotira kerak bo‘laveradi, shuning uchun xotira ishlab chiqaruvchilar uchun istiqbol aniq – e’tiborsiz qolmaydi.

Har xil texnologiyalar bo‘yicha qanday yondashuvlar bormi, ularning har biri uchun afzallik va kamchilikni ayta olasizmi? Bozor Marvell bunga qanday qaraydi, bilmoqchi.

Will Chu｜12:41

Daniel, men javob beraman. Dave ilgari aytgandek, model kattalashgan sari xotira talabi ham ortadi – bu to‘g‘ri matematik bog‘liqlik. Bu barobarida narx ham o‘sadi, va an’anaviy texnika butun tizimda bo‘g‘in bo‘lib qolmoqda.

Will Chu｜13:00

Marvell ichida va mijozlar bilan hamkorlikda ko‘plab xotira “devari”ni aylanib o‘tish yo‘llari o‘rganilmoqda.

Birinchisi, yuqori zichlikli SRAM, maxsus IP; bu chip ichida xotira zichligini keskin oshirish imkon beradi. Bu odatda hisoblash bloklari bilan zich integratsiyalashadi – chip ichida katta model saqlanadi.

Bu xatti-harakat, ko‘pincha moslashtirilgan bo‘ladi. Universal, “standart” xotira kompilyatorlariga tayansangiz, bugun talabni qondirish oson emas. Biz shu yo‘nalishga ko‘p sarmoya kiritamiz. Bu chip ichidagi bosqich.

Will Chu｜13:35

Chip atrofidagi yoki ustidagi qatlam. Bu albatta HBMni o‘z ichiga oladi. Hamma joyda integratsiyalashsa bo‘ladigan joyda HBM ham moslashtirishga harakat qilinadi: o‘tkazuvchanlik va xotira hajmi oshadi.

Boshqa rivojlanayotgan texnologiya – 3D stacking: xotira logic die ustiga ko‘tariladi, xotira va logic die bugungi kunda yanada yaqin joylashadi.

Tashqariga kengaytirish esa, CXL yoki maxsus protokollar bilan nafaqat sig‘imni, balki o‘tkazuvchanlikni oshiradi. Bu bilan fizik xotirani ancha ko‘proq qo‘shish mumkin bo‘ladi; rack tashqarisidagi turli xildagi pool-lash ham ishlatiladi.

Will Chu｜14:26

Dave misol uchun: FMS da Photonic Fabric memory chiqarildi – hisoblash manbaidan, rackdan tashqarida mustaqil 32 TB xotira pool mavjud. Demak, bizda “end-to-end” yechim bor.

Va nihoyat, near-memory compute, ya’ni hisoblashing xotiraga juda yaqin joylashtiriladi; ba’zi vazifalar CPU yoki GPUdan olinib, ko‘proq xotira bilan hisoblanuvchi blokka yuklanadi – natijada resurslar samaradorligi oshadi.

Bular hozir yuz bermoqda. Dave aytganidek, xotira kengaytirib borilgani sari, I/O va aloqa talab ham keskin o‘sadi, chunki, baribir, tizim ichida ma’lumot yetkazilishi kerak bo‘ladi.

Daniel Newman｜15:19

Ular bir-biriga tayanadi. Shu haftada ijtimoiy tarmoqlarda "xotira bozoridan chiqib ketdi, optik ulanish davri keldi" degan ko‘plab bahslar bo‘ldi. Lekin siz aytgandek, bu biri yoki boshqasi emas, har ikkisiga ehtiyoj bor.

Will Chu｜15:35

Men aytaman: ular bir-birini boshlab boradi.

Patrick Moorhead｜15:36

Agar ular har biri o‘z funksiyasini to‘g‘ri bajarsa, hisoblash, xotira va saqlovchi doimo bir-birini kuchaytirib boradi.

Aytgancha, men hech qachon CXLga bunchalik e’tibor berilayotganini ko‘rmaganman. Bizning tahlilchilarimizdan biri 3-4 yil avval CXL bo‘yicha whitepaper yozgan edi, o‘shanda spek chiqgan, lekin memory pooling haqiqiy boshlanmagan edi. Endi esa ehtiyoj juda kuchli, va sizlar ushbu texnologiyaga besh yildan buyon, hatto undan ham oldin sarmoya kiritib kelgansizlar. Zamin to‘ldirilmoqda, haqiqiy “boom”ga chiqyapti.

Dave Lazovsky｜16:07

Endi amalga joriy qilinyapti, va asosan inferensiya modellarining tarqalishi, inferensiya hisoblash jarayonlari turtki bermoqda. Juda past kechikish bilan, juda katta xotirani va katta o‘tkazuvchanlikni tezda olish zarur.

Will misol keltirgandek, Photonic Fabric memory misolida, biz mijozlarga ikkita tomon o‘rtasida tanlov qilish majburiyatini soddalashtiramiz: bir tomonda DDRning sig‘im va arzonlik strukturasini birlashtiramiz, ikkinchi tomonda esa HBMning o‘tkazuvchanligi va ko‘p pseudo-channellarini integratsiya qilamiz. Buning ortidan juda yuqori o‘tkazuvchanlik olinadi va parallel tranzaksiyalar ishlatiladi.

Demak, tizim har ikki tarafning afzalliklarini birlashtiradi. Mijozlar, birinchi marta, hisoblashing resurslarni kengaytirmasdan, faqat xotirani yoki uning bandwidthini mustaqil kengaytirish imkoniyatiga ega bo‘ladi.

Patrick Moorhead｜17:04

Ajabtovur. Kim bilar edi: 5-6 yil oldin dastlabki spetsifikatsiya chiqqanda, bugungi katta til modellar, agentlar va boshqa narsa bo‘ladi, deb o‘ylash yo‘q edi.

Will Chu｜17:14

Men yana bir fikrni qo‘shaman. Yuqori xotira narxi, aslida, barcha ulkan bulut provayderlari arxitektorlarini butun infratuzilmani qayta o‘ylashga majbur qilmoqda, xususan xotira narxi uzoq muddat yuqori bo‘lishi mumkin deb taxmin qilishayotgan bo‘lsa.

Natijada, bizning CXL mahsulotlarimizga talab juda katta. Ayrim mijozlar eski xotiradan foydalanishni istaydi, lekin uni yangi server, yangi CPU yoki yangi GPUga ulab bo‘lmaydi. Biz orada ko‘prik rolini bajaramiz.

Bundan tashqari, memory compression, chuqur compression orqali bir xil chiplardan ikki barobar ya’ni effektli xotira sig‘imi olish imkonini yaratamiz. Oddiygina, memory pooling ham kengaymoqda, maqsad – utilizationni maksimal qilish.

So‘nggi nuqta, ehtiyoj flash xotira darajasiga qayta kengaymoqda, bu tashqi qatlam. Yoki HBF kabi yuqori o‘tkazuvchanlikli flesh, yoki an’anaviy maqsadlar uchun, juda katta talab bor. Dave aytgandek, mijozlar hozir xotirada multi-layer “tier”lar tashkil qilmoqda. Ular DRAMga nisbatan arzon flashni qo‘shib, umumiy sig‘imni oshiryapti. Bu esa, yana bog‘lanish talabini kuchaytiradi.

Daniel Newman｜18:21

Bu – «zarurat – ixtironing onasi» degan gapni isbotlaydi. Butun bu harakatni manba – marjani yaxshilash zarurati. Yetkazib beruvchilar uchun ham, har gal sizlar samarali texnologiya ishlab chiqsangiz, undan ko‘p foydalaniladi.

Daniel Newman｜18:37

O‘sish ham bir necha foiz emas, juda kuchli. Six Five Summitda Google bilan muhokama qilganimda, ular har oyda 40 kvadrillion tokenni qayta ishlaydi deyishdi. Faqat bitta Google, 40 kvadrillion token.

Will Chu｜18:49

Juda hayratlanarli.

Patrick Moorhead｜18:51

Yangi tarmoq “customization”i haqida so‘z bo‘ldi. Bu soha doim “akkordeon” sikli: avval hamma masshtabga chiqmoqchi, umumiy standartlar va yagona shablonni oladi; keyin yana biror joyda bottleneck va customization zarurati chiqadi.

Har bir ulkan bulut provayderi hozirgi arxitekturasini ishlab, boshqaradi va rivojlantirmoqchi. Scale-up tarmoqda customization nima uchun zarur? Sabablar ayon, lekin end-to-end yechim ahamiyati qanday? Dave, fikringiz qiziq.

Dave Lazovsky｜19:37

Bozor yuqori konsentratsiyalangan: bir necha yirik bulut xizmat ko‘rsatuvchilar boshqaning andozasi va standard bazasini olmaydi. Ayniqsa scale-up tarmoqlarda ular har biri o‘z “custom” yechimlarini tuzadi, fizika va logika qatlamlarida ham.

Hozir bir oz “yaqinlashish”, lekin to‘liq standartlashtirish emas. Kimdir Ethernet asosidagi scale-up tarmoqqa moyil, yana boshqalar UALink afzal ko‘radi. UALink – NVLink ga yaqin performance, xotira semantics (load/store) asosida strukturasi, effektivligi Ethernet packet switchingdan ancha yuqori.

Boshqa bir mijoz butunlay proprietary network topology ishlab chiqdi.

Dave Lazovsky｜20:41

Har qanday variantda, biz mijoz uchun to‘liq moslashtirish qilamiz: XPU companion dan I/O chipigacha, ko‘pincha protokol qatlamini ham o‘zgartirib, talabga moslashtiramiz.

Kanal talablari ham o‘rganiladi, error correction, FEC, bir necha ustuvorliklarni muvozanatlaymiz: bit error rate, power va delay to switchgacha.

Switch chip ham xuddi shunday. Bu umumiy “off the shelf” chiplar davri emas. Biz o‘sha bulut kompaniyalari bilan bir necha yil oldindan ishlaganda, switch chip uchun talablarni ham birgalikda belgilaymiz va ularning ehtiyoji bo‘lganda, aynan kerakli mahsulotni etkazib bera olamiz.

Will Chu｜21:29

Qisqacha ustiga: Dan, siz bir necha trillion dollar sarmoyadan gapirdingiz. Shuncha pul harajati uchun, infratuzilmani optimallashtirishga iqtisodiy asos yetarli.

Will Chu｜21:41

XPU va scale-up tarmoq juda yaqin ulanishga ega bo‘lgani uchun, shartli ravishda yangi protokollar va optimizatsiya strategiyalari paydo bo‘ladi, natijada ular chipga joylashtiriladi.

Will Chu｜22:01

Bizning mijozga beradigan qiymat aynan shu. Buni amalga oshirish bizning farqimiz.

Ochig‘i, bu oson emas – bu murakkab ish. Lekin biz muhandislik kuchini doim mustahkamlab kelamiz, oldingi tajriba va ishonch ham bor, eng asosiy qismlarda ishlashga tayyormiz. Boisi, ular uchun bu segmentlar eng muhim.

Daniel Newman｜22:22

Shu mazmunni bog‘layman. Six Five Summit 2026 mavzusi: “AI potensialini ochish”. Sizlar hamkorlik orqali mijozlarga yechim potensialini ochyapsizlar.

Ayta ketishim, ular (Marvell) hech qachon, deyarli hech qachon mijoz nomini ochiq aytmaydi. Lekin bu yirik ulkan bulut kompaniyalari, dunyodagi eng yiriklarni anglatadi. Marvell ular uchun moslashtirilgan yechimlar ishlab chiqadi – biladiganlar uchun qiziqarli narsalar juda ko‘p.

Daniel Newman｜22:46

Will, yana savol: Marvell hozir amalga oshirayotgan va ochiq ayta oladigan ishlar ichida – (bilaman, internetda siz hech ochiqlamay olmasligingiz mumkin – biz parvo qilmaymiz, lekin bilaman, siz qilasiz) – qaysi ishlar eng katta yutuq vaqea bo‘lishi, AI uchun sig‘im va resurs ehtiyojlarini qondira oladi, deb o‘ylaysiz? Marvell nima ish qilsa, bu qiyin savol, lekin nechtasini ajrata olasizmi?

Will Chu｜23:15

Miqyos juda katta savol, bittasini ajratib aytish qiyin.

Daniel Newman｜23:19

Birozini aytavering. Dey, siz ham aytasiz, to‘ldirasiz.

Will Chu｜23:27

Aslida, tizimda uch asosiy bo‘lim bor. Birinchisi bog‘lanish texnologiyasi, bu yerda Deyv gapiradi, bu sohada juda katta ish qilganmiz.

Xotira bo‘yicha, biz misli ko‘rilmagan, optimallashgan xotiralash ishlari olib boryapmiz. Bu xotira devoridan o‘tishda kalit ahamiyatga ega.

Xotira, albatta, hisoblash bilan bog‘liq. Hisoblash nisbatan ko‘proq tahlil qilingan, muhandislik usullari bilan yechim oson. Lekin talabni sifat jihatdan o‘zgartiradigan modul – bu xotira qismidir.

Va bizda ajoyib I/O texnologiya ham bor, bu haqda Deyv to‘ldiradi. Biz ushbu uch tarkibni birlashtira olamiz, bu juda noyob imkoniyat.

Dave Lazovsky｜24:15

Biz scale-out va scale-across haqida ko‘p gaplashmadik, lekin ular ham faol o‘sayotgan yirik yo‘nalish. Ma'lumot markazlari kampuslari doim kengaymoqda.

Dave Lazovsky｜24:27

Zuckerberg aytgan edi: Meta yangi ma'lumot markazi deyarli Manhattan kattaligida. Ulanish ehtiyojini o‘ylangiz – hakikatan ajoyib. Shu bilan optik ulanishning yangi turi – “Coherent-lite”ga ehtiyoj oshdi, bu 10 km dan kam masofa uchun, tez rivojlanmoqda.

Marvell ning coherent optik jamoasi – men ko‘rgan eng kuchli jamoa. Birinchi bo‘lib 1.6 Tbps optik ulanishni bozorga olib chiqdik – ajabtovur. Scale-across bozori issiq, scale-out ham tez rivojlanmoqda.

Aslida, biz amalga oshiralayotgan ishlar ichida eng muhim, hatto disruptiv ta’sirga ega soha ham bor.

Dave Lazovsky｜25:17

Scale-up nuqtai nazaridan, ma’lumot markazidagi barcha traffikning 85% i – scale-up ichidagi protsessorlararo traffik, qolgan 15% – scale-out.

Agar aynan shu joyda samaradorlik oshsa, ayniqsa energiya ko‘rsatkichi, butun markazning umumiy iste'moli qat’iy o‘zgaradi. Elektr bugun ham muammo, 3-5 yil ichida u keskin muammoga aylanadi. AQSHda mavjud elektr resurslari navbatdagi data markazlarini ta’minlay olmaydi.

Shu sabab, biz ishlab chiqqan va endi tatbiq qilinayotgan narsa – analog SerDes asosidagi optik scale-up tarmoq. Standart 224 Gbps SerDes ulanishlariga optik bog‘lashdan, bu yechim energiya sarfini 1/4 gacha tushiradi.

Nazdimizda, joriy etilgach, data markazlari umumiy energiya iste'moli 25% dan ortiqka qisqaradi – juda katta ta’sir bo‘ladi.

Daniel Newman｜26:34

Aniq, qancha kamaytiradi, deb so‘ramoqchi edim. Chunki, necha yuz gigavat yangi elektr kerak bo‘ladi. Fuel celllar cheklangan, boshqa usullar ham shunday; yadroviy energiya – hali amalga oshmayotgan orzumiz, baxtga qarshi, umid qilamiz, kelajakda amalga oshadi. Elektr tarmog‘i ulash ketishi 7 yil, gaz turbinani ham yetkazib berish 3-4 yil.

Har bir gigavatdan ko‘proq foyda olish – juda katta imkoniyat.

Aytilganidek, Terafab data markaz emas. Meta inshootining kattaligi haqida gap borgan – menimcha, Central Park bilan taqqoslangan, ikkala konturni birga solishtirishgan ham bo‘lishi mumkin.

Will Chu｜27:02

To‘g‘ri, shunday.

Daniel Newman｜27:03

Lekin binolar juda kattalashib bormoqda, fikrlar bir nuqtada qovushadi. Yana qo‘shimcha qilishni hohlaysizmi?

Will Chu｜27:10

Deyv aytganlariga to‘ldiraman. Asl manfaatimiz – bizda barcha bazaviy texnologiyalar bo‘lsa, ularni bir-biri bilan birlashtira olamiz.

Ba'zi kompaniyalar faqat ayrim IPni bera oladi, lekin buning sintezi – xotira, I/O va tarmoq texnologiyalarining jamlangan jamlanmasi, ularni bir arxitekturaga uyushtirish, har xil chiplarni birgalikda ishlashga majbur qilish – faqat butun ekotizimga ega bo‘lgan kompaniyada bo‘ladi.

Will Chu｜27:39

Shu "end to end" sinergiyani amalga oshirish juda murakkab. Haqiqatda bizning kalit raqobat ustunligimiz – mukammal IP komplekti va ularni xalqaro o‘lchamdagi AI infratuzilmasida birga samarali ishlata olish. Buni biz har kuni qilamiz.

Daniel Newman｜27:55

Biznesni asosiy chipdan tashqariga kengaytirish, hamroh qismlarni ham egallash imkonini beradi – bu juda to‘g‘ri strategiya.

Dave Lazovsky｜27:59

Barcha texnologik imkoniyatlar, mahsulot portfeli va ajoyib jamoamizdan tashqari, ko‘p e'tibor berilmaydigan yana bir narsa bor: mijozlar bilan munosabatlarimiz samarasi.

Dave Lazovsky｜28:12

Men Marvellga nisbatan yaqinda qo‘shildim. Bu kompaniyaning eng qadrli kapitali. Bunday ishonch yillar davomida shakllanadi.

Aytishim mumkin, to‘rt yirik bulut provayder va hamkorligimizdagi GPU ishlab chiqaruvchilar bilan ham, uzoq yillik ishonchga ega hamkorlik bor. Eng katta kompaniyalarning ishlab chiqish guruhining uzviy qismi bo‘lish – katta omad.

Patrick Moorhead｜28:42

Aynan bu fikrni ulkan mijozlar ham aytishgan, Danielga ham, lekin ular buni ochiq ayta olishmaydi. Hatto o‘ylamasdim ba’zi kompaniyalar press-reliz yozib, sizlarning ishlaringizni ochiq qo‘llab-quvvatlashini. Tabriklayman – mijoz bilan chuqur hamkorlik chindan ham katta natijalar keltiradi.

Daniel Newman｜29:03

Will, Dave, bugun shunchalik kengaytirib, Six Five Summit auditoriyasiga ko‘plab ajoyib kontent uchun minnatdorlik bildiraman. Taraqqiyotingiz, yangi quvvatlar va integratsiya uchun tabriklayman. Ushbu evolyutsiyani doim kuzatib boramiz va Marvell yangiliklarini yoritishda davom etamiz.

Dave Lazovsky｜29:20

Chaqirganingiz uchun yana rahmat.

Daniel Newman｜29:22

Six Five Summit 2026 "Yarimo‘tkazgichlar markazda" maxsus izlanuvchilariga minnatdorlik bildiraman. Kuzatib boring, obuna bo‘ling, va boshqa Six Five Summit muhokamalarini ham tomosha qiling. E'tiboringiz uchun rahmat, navbatdagisi kuting.