How an AI Data Center Is Built — Every Component, Every Maker

从头到尾读完本页，你就跟完了一条真实的采购链：芯片 → 板卡 → 机架 → 线缆 → 冷却 → 电力 → 软件 → 模型。这条路径适用于任何加速器——换掉第一个环节，其余部分几乎不变。

1 GPU 本身就是一条供应链

"一块NVIDIA GPU"实际上是来自五个国家的零部件组合。NVIDIA负责设计和软件开发，几乎所有实体部件均由其他厂商制造。

逻辑裸片（计算单元） TSMC 4NP process 在台湾以仅 ASML 能够制造的设备生产 — ASML EUV TSMC 是唯一的选择吗？在前沿制程上，实际上是的——如今每款旗舰 AI 芯片都在那里生产。两家紧随其后的替代者： Samsung Foundry · Intel Foundry

内存（HBM 堆栈） SK hynix Micron Samsung 每块 B200 搭载八个堆栈；已提前约一年售罄 — HBM3E

封装（裸片与内存集成） TSMC CoWoS Amkor ASE 导致 2023–24 年全球 GPU 供应紧缺的关键环节

板卡组装 Foxconn Quanta SXM 模块和超级芯片板卡由台湾厂商制造，并非 NVIDIA 自产

板级电力传输 Monolithic Power Infineon Delta 将机架电压降至约 1 V，每颗芯片电流超过千安

网络接口 NVIDIA BlueField / ConnectX 每块 GPU 配备一块 400–800G 网卡，已成标配

完整规格表： B200 · GB200 · 或在对应记录页面追溯任意芯片的完整供应链。

2 服务器与机架

GPU 以整机系统形式交付。在 Blackwell 规模下，机架本身即为产品：18 个计算托盘、9 个交换托盘、一根铜质主干。

机架级系统 GB200 NVL72 HGX baseboards 每机架约 120 kW——一个机柜的占地面积承载着百户家庭的用电负荷

谁来构建 Foxconn Quanta Wiwynn 面向超大规模云厂商的 ODM……

……以及谁在为它们贴牌 Supermicro Dell HPE Lenovo 企业渠道，附带服务合同

连接器与中继器 Amphenol TE Connectivity Astera Labs 每机架数千个高速触点；重定时器确保 PCIe 信号在机箱内稳定传输

3 线缆布局

最容易被忽视的问题：三类线缆、三个供应商生态——在集群规模下，线缆成本高达数亿美元。

机架内部：铜缆 Amphenol TE Connectivity Credo DAC及有源电缆；NVL72的NVLink主干网仅铜缆就约达5,000根——每机架超过两英里

机架间：光互连 800G optics Coherent Lumentum Fabrinet 每个集群可插拔光模块多达数十万个；激光器来自光子器件厂商，组装主要在泰国完成

玻璃基板本身 Corning 园区光纤总长度现已达数百万公里

承载一切的交换机 NVIDIA InfiniBand Spectrum-X Arista Broadcom silicon InfiniBand 与以太网的选择，是仅次于 GPU 本身的最重要架构决策

学习：10 万块 GPU 如何合为一台计算机 →

4 散热——以及为何它决定了格局

概览

芯片上：冷板 Direct-to-chip CoolIT Boyd 固定在每块 GPU、CPU 和交换机 ASIC 上的铜制微通道散热板

机列内部：CDU Coolant distribution units Vertiv Schneider (Motivair) Delta 2 MW级泵组与换热撬装设备——2022年前几乎不存在的产品品类

热量排散 Rear-door HX Immersion Munters 室外干式冷却器、冷却塔或冷水机组；封闭循环系统一次注水后几乎无需补充

选址信号： 冷却是数据中心历史上选址于河流湖泊附近的原因（蒸发式冷却设计），也是新一代封闭循环冷却系统得以转而在干旱地区追逐廉价电力的原因。选址人员正是通过这些特征——水权、高压走廊、光纤路线、凉爽气候——从地图上识别出数据中心园区。学习：数据中心选址何处，原因何在 →

5 供电机房

电网与机架之间，是一栋满载设备的建筑，其采购周期长达数年——通常才是真正的关键路径。

Transformer与电网并网 Hitachi Energy Siemens Energy Interconnection 3至5年的交货周期使这类设备成为行业中最稀缺的硬件

开关设备、UPS、母线槽 Eaton Schneider ABB Vertiv 数据中心的电气主干；下一代机架正向 800 伏直流配电演进

备用电源与桥接电源 Cummins Caterpillar Gas turbines Bloom fuel cells 停电时启用发电机组；电网接入排队过慢时则直接建设整套燃气轮机电站

兆瓦数据本身电力项目核电重启光伏+储能为园区供电的协议——详见电力板块

自行计算：使用集群功耗计算器 →

6 您安装的软件

机架到货时只是金属框架。以下是完整技术栈的组装顺序——没错，第一步从 Linux 开始。

操作系统 Linux 几乎全球所有 AI 服务器都在运行它——Ubuntu、RHEL 或超大规模云厂商的自研版本

驱动程序与计算平台 CUDA ROCm (AMD) XLA (TPU) 让芯片具备可编程性的软件层——也是业内最深的护城河

集群管路 NCCL Kubernetes Slurm Ray 用于同步 GPU 的集合通信库；用于共享机器资源的调度器

训练框架 PyTorch JAX Megatron DeepSpeed 模型代码实际运行的位置

然后：部署您的模型训练一个模型或获取开放权重 vLLM TensorRT-LLM 推理引擎将模型权重转化为每秒输出的 token——这正是整栋建筑存在的意义

学习：前沿模型如何完成训练 → · 按下回车键后发生了什么 →

巨头内部：同一问题，六种答案

上层的每家厂商都向下层销售——但每个大型构建方对技术栈的整合方式各有不同。这些是真实的配置方案，由本数据库其他部分所用的相同记录组装而成。

The vertical integrator

Google

The only player integrated from self-designed silicon to frontier model — no NVIDIA required anywhere in Gemini's path.

算力 TPU v7 Ironwood Trillium Its own TPUs — Ironwood for the inference era, Trillium in volume — plus NVIDIA GPUs rented out to Cloud customers.

互联架构 TPU pods Optics 3D-torus inter-chip links reconfigured by in-house optical circuit switches; the Jupiter network carries the data center.

机架与系统 TPU pods Self-designed: the 9,216-chip pod, not the server, is the unit of hardware.

散热 Direct-to-chip Direct liquid cooling on TPU pods since 2018 — the earliest big liquid fleet.

电力 Kairos fleet Nuclear A giant renewables book, the first corporate SMR fleet order, and restart interest.

软件 JAX XLA Linux + Borg orchestration underneath; JAX and XLA compile straight to TPU.

模型与站点 Gemini 3 Council Bluffs Gemini 3 trained and served on TPUs end to end.

The alliance at NVIDIA scale

Microsoft + OpenAI

The biggest NVIDIA buyer builds 'AI factories' for its partner's models — with its own silicon waiting in the wings.

算力 GB200 H100 Maia 100 Frontier NVIDIA fleets — GB200 today atop huge H100 estates — with in-house Maia 100 in supporting roles.

互联架构 InfiniBand The world's largest InfiniBand deployments, flat networks spanning whole sites.

机架与系统 GB200 NVL72 Foxconn Quanta ODM-built NVL72 racks and HGX servers from the Taiwanese manufacturers.

散热 Fairwater Direct-to-chip Closed-loop direct liquid at Fairwater — fill once, near-zero water after.

电力 Crane restart Constellation The Three Mile Island restart PPA (835 MW, 20 years) plus a 10.5 GW renewables framework.

软件 DeepSpeed ONNX Runtime Linux + Azure's stack; DeepSpeed for training scale; ONNX for deployment.

模型与站点 GPT-5 Fairwater Stargate GPT-5 trains and serves on this estate; Stargate adds OpenAI's own campuses.

The open-everything builder

xAI

The existence proof that a frontier cluster can be improvised in months — factory shell, gas turbines, batteries and all.

算力 H100 H200 ~100,000 H100s in 122 days, doubled since; GB200-class capacity at Colossus 2.

互联架构 Spectrum-X The flagship Spectrum-X Ethernet deployment — NVIDIA networking without InfiniBand.

机架与系统 Supermicro Dell Supermicro and Dell liquid-cooled systems, delivered at sprint pace.

散热 Direct-to-chip Direct liquid throughout — the density made air a non-starter on day one.

电力 Gas turbines Colossus On-site gas turbines bridging the grid queue, Tesla Megapacks smoothing training spikes.

软件 CUDA A lean in-house training stack on Linux and CUDA — small team, big machine.

模型与站点 Grok 4 Colossus Grok 3 and 4 trained at Colossus; Grok ships inside X.

The custom-silicon bet

AWS + Anthropic

The clearest test of whether a hyperscaler's own chips can carry a frontier lab — half a million Trainiums and counting.

算力 Trainium2 UltraServer Trainium2 UltraServers at Project Rainier scale, beside NVIDIA fleets for customers.

互联架构 UltraServer NeuronLink inside the UltraServer; AWS's own EFA networking and Nitro offload beyond it.

机架与系统 Annapurna/AWS Annapurna-designed, self-integrated — the cloud primitive as the building block.

散热 Direct-to-chip Liquid-and-air mix tuned per hall across the Rainier sites.

电力 Susquehanna X-energy Nuclear at Susquehanna, X-energy SMR backing, and the largest corporate renewables book.

软件 PyTorch vLLM The Neuron SDK is the whole ballgame — porting the open stack to its own silicon.

模型与站点 Claude 4.5 Project Rainier Claude trains at New Carlisle — and, uniquely, also runs on TPUs and GPUs elsewhere.

The embodied-AI factory

Tesla

Trains on video from millions of cars, ships the result back to them — with its own batteries steadying its own cluster.

算力 H100 Cortex The ~50,000-GPU Cortex cluster at Giga Texas; Dojo wound down for AI5/AI6 chips.

互联架构 800G optics Ethernet-fabric clusters sized for video-scale data ingest.

机架与系统 Supermicro Supermicro and Dell systems, plus purpose-built data-hall extensions of the factory.

散热 Direct-to-chip A dedicated liquid-cooling plant built alongside the cluster.

电力 Gas turbines Grid supply buffered by its own Megapacks — the manufacturer as its own customer.

软件 PyTorch Vision-only training pipeline on PyTorch; models compile down to the car's FSD computer.

模型与站点 Tesla FSD Samsung FSD v13+ ships over the air; AI5/AI6 silicon comes from Samsung and TSMC.

Annapurna自主设计、自主集成——以云原语作为基础构建模块。

完整关注列表 →

挑战者芯片、2026–27 平台代际、光子互连、核能浪潮，以及超越 Transformer 的架构押注——均在观察列表中附有状态标签持续追踪。

Etched Sohu Lightmatter UALink HBM4 Rubin MI400 SMRs 关注列表 →

AI 数据中心是如何建成的