Ghi chép thực địa
Một con chip không bao giờ đến một mình — nó được giao trong một cỗ máy quyết định cách làm mát, cấp điện và kết nối mạng, và gần đây những cỗ máy đó đã bắt đầu nuốt chửng cả data center. Hãy chú ý một con số trong khi duyệt: bao nhiêu GPU hoạt động như một. Tám là tiêu chuẩn suốt một thập kỷ. Nay là 72, và 576 đang nằm trong lộ trình.
Bắt đầu với ba khái niệm này
NG
NVIDIA GB200 NVL72
Rack buộc cả một ngành công nghiệp phải chuyển sang làm mát bằng chất lỏng — bắt đầu từ đây.
NH
NVIDIA HGX H100/H200
Server 8 GPU tiêu chuẩn của thời kỳ bùng nổ. Hiểu cái này là hiểu "một server".
CC
Cerebras CS-3
Kẻ dị giáo: một chip cỡ đĩa ăn, một hộp, không có rack đầy server nhỏ nào cả.
Training & inference systems
12
NG
NVIDIA GB200 NVL72
The rack that is the computer: 72 GPUs, one NVLink domain, 120 kW, liquid only.
NH
NVIDIA HGX H100/H200
The 8-GPU baseboard that defined the standard AI server.
AH
AMD Helios
AMD's 2026 rack: 72 MI400-series GPUs on open standards (UALink + OCP).
AI
AMD Instinct MI300X Platform
AMD's 8-GPU answer to HGX — the OAM board with 1.5 TB of HBM.
AT
AWS Trn2 UltraServer
64 Trainium2 chips fused by NeuronLink — the block Rainier is built from.
CC
Cerebras CS-3
One wafer, one box: 23 kW around a single enormous chip.
DP
Dell PowerEdge XE9680/XE9712
The enterprise AI server franchise — from 8-GPU boxes to NVL72 racks.
GT
Google TPU Pods
Google's unit of training: thousands of TPUs behind optical circuit switches.
HC
HPE Cray EX
The exascale platform under Frontier and El Capitan.
ND
NVIDIA DGX B200
NVIDIA's own-brand Blackwell server: 8 GPUs, 1.4 TB of HBM, ~14 kW.
ND
NVIDIA DGX SuperPOD
The turnkey supercomputer blueprint — from 32 to thousands of nodes.
SN
Supermicro NVL72 & 4U Liquid-Cooled Systems
The speed-to-market systems that built Colossus.