현장 노트
칩은 절대 혼자 오지 않는다 — 냉각, 전력, 네트워킹 방식을 결정하는 장비 안에 담겨 출하되며, 최근 그 장비들은 데이터 센터 전체를 삼키고 있다. 브라우징하면서 한 가지 숫자를 눈여겨보자: 몇 개의 GPU가 하나처럼 작동하는가. 8개가 10년간의 표준이었다. 이제는 72개이고, 576개가 로드맵에 올라 있다.
이 세 가지부터 시작하세요
NG
NVIDIA GB200 NVL72
업계 전체에 액체 냉각을 강제한 랙 — 여기서 시작하라.
NH
NVIDIA HGX H100/H200
호황기의 기본 8-GPU 서버. 이것을 이해하면 '서버'를 이해한 것이다.
CC
Cerebras CS-3
이단아: 저녁 접시 크기의 칩 하나, 박스 하나, 소형 서버 랙 없음.
Training & inference systems
12
NG
NVIDIA GB200 NVL72
The rack that is the computer: 72 GPUs, one NVLink domain, 120 kW, liquid only.
NH
NVIDIA HGX H100/H200
The 8-GPU baseboard that defined the standard AI server.
AH
AMD Helios
AMD's 2026 rack: 72 MI400-series GPUs on open standards (UALink + OCP).
AI
AMD Instinct MI300X Platform
AMD's 8-GPU answer to HGX — the OAM board with 1.5 TB of HBM.
AT
AWS Trn2 UltraServer
64 Trainium2 chips fused by NeuronLink — the block Rainier is built from.
CC
Cerebras CS-3
One wafer, one box: 23 kW around a single enormous chip.
DP
Dell PowerEdge XE9680/XE9712
The enterprise AI server franchise — from 8-GPU boxes to NVL72 racks.
GT
Google TPU Pods
Google's unit of training: thousands of TPUs behind optical circuit switches.
HC
HPE Cray EX
The exascale platform under Frontier and El Capitan.
ND
NVIDIA DGX B200
NVIDIA's own-brand Blackwell server: 8 GPUs, 1.4 TB of HBM, ~14 kW.
ND
NVIDIA DGX SuperPOD
The turnkey supercomputer blueprint — from 32 to thousands of nodes.
SN
Supermicro NVL72 & 4U Liquid-Cooled Systems
The speed-to-market systems that built Colossus.