데이터베이스 섹션 · 12 레코드
메모리
High-bandwidth memory is the scarcest commodity in AI hardware. The generations, the suppliers and where each is used.
현장 노트
이 사이트 전체에서 하드웨어에 관한 교훈을 하나만 배운다면, 바로 이것이다: AI 성능은 대개 컴퓨팅이 아닌 메모리로 결정된다. 세 회사가 중요한 메모리를 만들며, 수년째 품절 상태이고, 이 사이트의 모든 GPU 로드맵은 그것을 중심으로 구부러진다.
이 세 가지부터 시작하세요
HB
High-Bandwidth Memory (HBM)
먼저 읽어야 할 것. 적층 메모리가 현대 AI 칩이 작동하는 이유다.
HB
HBM4
2026년 세대 — 더 넓고, 더 빠르고, 이미 수요가 확보됨.
SK hynix
AI 붐 전체에서 조용히 승리한 기업.
SK hynix
AI 붐 전체에서 조용히 승리한 기업.
Memory technologies
9
HB
High-Bandwidth Memory (HBM)
Stacked DRAM wired straight to the GPU — the scarcest commodity in AI.
HB
HBM3E
The 2024–26 workhorse: up to 36 GB per stack in 12-high form.
HB
HBM4
2026's generation: a 2,048-bit interface and logic-die base from the foundries.
CX
CXL
Compute Express Link: pooled and expanded memory over PCIe wiring.
D&
DDR5 & LPDDR5X
The system memory feeding CPUs — and, via Grace, the GPUs too.
GD
GDDR7
Graphics memory conscripted for cost-efficient inference.
HB
HBM2
The 2016–2020 generation that powered V100 and A100-40GB.
HB
HBM2E
The refined HBM2 behind A100-80GB, Gaudi and Maia.
HB
HBM3
The H100/MI300X generation: ~0.8 TB/s per stack.
