डेटाबेस अनुभाग · 12 records
मेमोरी
High-bandwidth memory is the scarcest commodity in AI hardware. The generations, the suppliers and where each is used.
फील्ड नोट्स
अगर आप इस पूरी साइट से हार्डवेयर का एक सबक सीखें, तो यही सीखें: AI का प्रदर्शन आमतौर पर मेमोरी से तय होता है, compute से नहीं। तीन कंपनियाँ वह मेमोरी बनाती हैं जो मायने रखती है, वह सालों से बिकी हुई है, और इस साइट का हर GPU रोडमैप उसके इर्द-गिर्द मुड़ता है।
इन तीन से शुरू करें
HB
High-Bandwidth Memory (HBM)
इसे पहले पढ़ें। Stacked memory ही कारण है कि आधुनिक AI chip काम करती हैं।
HB
HBM4
2026 की पीढ़ी — व्यापक, तेज़, और पहले से ही बुक।
SK hynix
पूरे AI उछाल का वह शांत विजेता।
SK hynix
पूरे AI उछाल का वह शांत विजेता।
Memory technologies
9
HB
High-Bandwidth Memory (HBM)
Stacked DRAM wired straight to the GPU — the scarcest commodity in AI.
HB
HBM3E
The 2024–26 workhorse: up to 36 GB per stack in 12-high form.
HB
HBM4
2026's generation: a 2,048-bit interface and logic-die base from the foundries.
CX
CXL
Compute Express Link: pooled and expanded memory over PCIe wiring.
D&
DDR5 & LPDDR5X
The system memory feeding CPUs — and, via Grace, the GPUs too.
GD
GDDR7
Graphics memory conscripted for cost-efficient inference.
HB
HBM2
The 2016–2020 generation that powered V100 and A100-40GB.
HB
HBM2E
The refined HBM2 behind A100-80GB, Gaudi and Maia.
HB
HBM3
The H100/MI300X generation: ~0.8 TB/s per stack.
