Section de la base de données · 12 fiches
Mémoire
High-bandwidth memory is the scarcest commodity in AI hardware. The generations, the suppliers and where each is used.
Notes de terrain
Si vous ne retenez qu'une seule leçon matérielle de tout ce site, que ce soit celle-ci : les performances de l'IA sont généralement déterminées par la mémoire, et non par le calcul. Trois entreprises fabriquent la mémoire qui compte, elle est en rupture de stock depuis des années, et chaque feuille de route GPU sur ce site s'articule autour d'elle.
Commencez par ces trois-là
HB
High-Bandwidth Memory (HBM)
Lisez ceci en premier. La mémoire empilée est la raison pour laquelle les chips d'IA modernes fonctionnent.
HB
HBM4
La génération 2026 — plus large, plus rapide, et déjà réservée.
SK hynix
Le grand gagnant discret de tout l'essor de l'IA.
SK hynix
Le grand gagnant discret de tout l'essor de l'IA.
Memory technologies
9
HB
High-Bandwidth Memory (HBM)
Stacked DRAM wired straight to the GPU — the scarcest commodity in AI.
HB
HBM3E
The 2024–26 workhorse: up to 36 GB per stack in 12-high form.
HB
HBM4
2026's generation: a 2,048-bit interface and logic-die base from the foundries.
CX
CXL
Compute Express Link: pooled and expanded memory over PCIe wiring.
D&
DDR5 & LPDDR5X
The system memory feeding CPUs — and, via Grace, the GPUs too.
GD
GDDR7
Graphics memory conscripted for cost-efficient inference.
HB
HBM2
The 2016–2020 generation that powered V100 and A100-40GB.
HB
HBM2E
The refined HBM2 behind A100-80GB, Gaudi and Maia.
HB
HBM3
The H100/MI300X generation: ~0.8 TB/s per stack.
