Bagian basis data · 12 rekaman
Memori
High-bandwidth memory is the scarcest commodity in AI hardware. The generations, the suppliers and where each is used.
Catatan lapangan
Jika Anda hanya mempelajari satu pelajaran hardware dari seluruh situs ini, jadikan ini: performa AI biasanya ditentukan oleh memori, bukan komputasi. Tiga perusahaan membuat memori yang penting, stoknya sudah habis terjual selama bertahun-tahun, dan setiap peta jalan GPU di situs ini membungkuk di sekitarnya.
Mulai dengan tiga ini
HB
High-Bandwidth Memory (HBM)
Baca ini terlebih dahulu. Stacked memory adalah alasan chip AI modern bisa bekerja sama sekali.
HB
HBM4
Generasi 2026 — lebih lebar, lebih cepat, dan sudah dipesan.
SK hynix
Pemenang senyap dari seluruh ledakan AI.
SK hynix
Pemenang senyap dari seluruh ledakan AI.
Memory technologies
9
HB
High-Bandwidth Memory (HBM)
Stacked DRAM wired straight to the GPU — the scarcest commodity in AI.
HB
HBM3E
The 2024–26 workhorse: up to 36 GB per stack in 12-high form.
HB
HBM4
2026's generation: a 2,048-bit interface and logic-die base from the foundries.
CX
CXL
Compute Express Link: pooled and expanded memory over PCIe wiring.
D&
DDR5 & LPDDR5X
The system memory feeding CPUs — and, via Grace, the GPUs too.
GD
GDDR7
Graphics memory conscripted for cost-efficient inference.
HB
HBM2
The 2016–2020 generation that powered V100 and A100-40GB.
HB
HBM2E
The refined HBM2 behind A100-80GB, Gaudi and Maia.
HB
HBM3
The H100/MI300X generation: ~0.8 TB/s per stack.
