Sezione del database · 12 record
Memoria
High-bandwidth memory is the scarcest commodity in AI hardware. The generations, the suppliers and where each is used.
Note sul campo
Se da questo sito impari una sola lezione sull'hardware, che sia questa: le prestazioni dell'AI sono di solito determinate dalla memoria, non dal calcolo. Tre aziende producono la memoria che conta, è esaurita da anni, e ogni roadmap GPU in questo sito ci gira intorno.
Inizia da questi tre
HB
High-Bandwidth Memory (HBM)
Leggi questo prima. La memoria stacked è il motivo per cui i chip AI moderni funzionano.
HB
HBM4
La generazione del 2026 — più ampia, più veloce, e già prenotata.
SK hynix
Il vincitore silenzioso dell'intero boom dell'IA.
SK hynix
Il vincitore silenzioso dell'intero boom dell'IA.
Memory technologies
9
HB
High-Bandwidth Memory (HBM)
Stacked DRAM wired straight to the GPU — the scarcest commodity in AI.
HB
HBM3E
The 2024–26 workhorse: up to 36 GB per stack in 12-high form.
HB
HBM4
2026's generation: a 2,048-bit interface and logic-die base from the foundries.
CX
CXL
Compute Express Link: pooled and expanded memory over PCIe wiring.
D&
DDR5 & LPDDR5X
The system memory feeding CPUs — and, via Grace, the GPUs too.
GD
GDDR7
Graphics memory conscripted for cost-efficient inference.
HB
HBM2
The 2016–2020 generation that powered V100 and A100-40GB.
HB
HBM2E
The refined HBM2 behind A100-80GB, Gaudi and Maia.
HB
HBM3
The H100/MI300X generation: ~0.8 TB/s per stack.
