How an AI Data Center Is Built — Every Component, Every Maker

‹ Terug

Lees deze pagina van boven naar beneden en je hebt een echte inkoopketen gevolgd: silicon → boards → racks → kabels → koeling → stroom → software → model. Dezelfde redenering geldt voor elke accelerator — wissel de eerste stap uit en de rest van de keten verandert nauwelijks.

1 De GPU zelf is een toeleveringsketen

"Een NVIDIA GPU" is eigenlijk een pakket onderdelen uit vijf landen. NVIDIA ontwerpt het en schrijft de software; vrijwel alles wat fysiek is, wordt door anderen gemaakt.

Logische dies (de rekenkracht) TSMC 4NP process gefabriceerd in Taiwan op machines die alleen ASML kan bouwen — ASML EUV Is TSMC de enige keuze? Op het scherpste technologieniveau effectief wel — elk vlaggenschip AI-chip wordt er vandaag geproduceerd. De twee alternatieve uitdagers: Samsung Foundry · Intel Foundry

Geheugen (HBM-stacks) SK hynix Micron Samsung acht stacks per B200; circa een jaar van tevoren uitverkocht — HBM3E

Behuizing (die + geheugen samengevoegd) TSMC CoWoS Amkor ASE de stap die in 2023–24 de wereldwijde GPU-voorraad rantsoeneerde

Boardassemblage Foxconn Quanta de SXM-modules en superchip-boards worden gebouwd door Taiwanese fabrikanten, niet door NVIDIA

Vermogenslevering op de print Monolithic Power Infineon Delta de rackspanning terugbrengen naar ~1 V bij meer dan duizend ampère per die

Netwerkinterfaces NVIDIA BlueField / ConnectX één 400–800G NIC per GPU is standaarduitrusting

Volledige specificatiebladen: B200 · GB200 · of de eigen keten van een chip traceren via de recordpagina.

2 Servers en racks

GPU's worden geleverd in technisch ontworpen systemen. Op Blackwell-schaal is het rack zelf het product: 18 rekentrays, 9 switch-trays, één koperen ruggengraat.

Het rack-scale systeem GB200 NVL72 HGX baseboards ~120 kW per rack — het verbruik van honderd huizen in een kast-formaat

Wie ze bouwt Foxconn Quanta Wiwynn ODM's voor de hyperscalers…

…en wie ze van een merk voorziet Supermicro Dell HPE Lenovo het zakelijk kanaal, met servicecontracten erbij

Connectoren & retimers Amphenol TE Connectivity Astera Labs duizenden hogesnelheidscontacten per rack; retimers houden PCIe-signalen in leven door het chassis heen

3 De bekabeling

De vraag die iedereen vergeet te stellen. Drie soorten kabel, drie leveranciersecosystemen — en op clusterschaal loopt de kabelrekening op tot honderden miljoenen.

Binnen de rack: koper Amphenol TE Connectivity Credo DAC en actieve elektrische kabels; de NVLink-ruggengraat van de NVL72 alleen al bestaat uit ~5.000 koperkabels — meer dan drie kilometer per rack

Tussen racks: licht 800G optics Coherent Lumentum Fabrinet pluggbare transceivers per honderdduizend per cluster; lasers van de fotonicafabrikanten, assemblage grotendeels in Thailand

Het glas zelf Corning campusvezelnetwerken tellen tegenwoordig miljoenen kilometers

De switches waar alles op aansluit NVIDIA InfiniBand Spectrum-X Arista Broadcom silicon de keuze tussen InfiniBand en Ethernet is de grootste architectuurbeslissing na de GPU zelf

Leer: hoe 100.000 GPU's één computer worden →

4 Koeling — en waarom het de kaart bepaalt

Bij 120 kW per rack is luchtkoeling voorbij. Vloeistof raakt elke chip, en hoe een campus warmte afvoert, bepaalt waar hij überhaupt gebouwd kan worden.

Op de chip: koelplaten Direct-to-chip CoolIT Boyd koperen microkanaalplaten bevestigd aan elke GPU, CPU en switch-ASIC

In de rij: CDU's Coolant distribution units Vertiv Schneider (Motivair) Delta 2 MW-klasse pomp-en-wisselaar skids — een productcategorie die in 2022 nauwelijks bestond

Warmteafvoer Rear-door HX Immersion Munters droge koelers, torens of chillers buiten; gesloten kringlopen worden eenmalig gevuld en verbruiken nauwelijks water

Het locatiesignaal: koeling is de reden waarom datacenters van oudsher werden gebouwd nabij rivieren en meren (verdampingsontwerpen), en waarom de nieuwe gesloten-kringloopgeneratie in plaats daarvan goedkope stroom in droge streken kan opzoeken. Scouts herkennen campussen op kaarten aan precies deze kenmerken — waterrechten, hoogspanningsroutes, glasvezelroutes, koele klimaten. Leer: waar datacenters naartoe gaan, en waarom →

5 De stroomruimte

Tussen het stroomnet en de racks staat een gebouw vol apparatuur met levertijden van meerdere jaren — doorgaans het werkelijke kritieke pad.

Transformers & netaansluiting Hitachi Energy Siemens Energy Interconnection 3–5 jaar levertijden maakten dit de schaarsste systemen in de sector

Schakelinstallaties, UPS, busway Eaton Schneider ABB Vertiv de elektrische ruggengraat; next-gen racks sturen aan op 800 volt DC-distributie

Back-up- en overbruggingsvermogen Cummins Caterpillar Gas turbines Bloom fuel cells aggregaten voor stroomuitval; volledige turbinecentrales waar de netaansluitingswachtrij te traag is

De megawatts zelf Energieprojecten Nucleaire herstarts Zon + opslag de deals die de campussen voeden — in kaart gebracht in het onderdeel Stroom

Doe de berekening zelf: de Cluster Power Calculator →

6 De software die u installeert

Racks komen aan als metaal. Dit is de stack, in de volgorde waarin die wordt opgebouwd — en ja, het begint met Linux.

Besturingssysteem Linux vrijwel elke AI-server ter wereld draait het — Ubuntu, RHEL of een eigen build van een hyperscaler

Drivers & rekenplatform CUDA ROCm (AMD) XLA (TPU) de laag die silicon programmeerbaar maakt — en de diepste slotgracht in de industrie

Clusterbekabeling NCCL Kubernetes Slurm Ray collectives om GPU's te synchroniseren; schedulers om de machine te delen

Trainingsframeworks PyTorch JAX Megatron DeepSpeed waar de modelcode daadwerkelijk in staat

Dan: installeer uw model Eén trainen of open gewichten ophalen vLLM TensorRT-LLM serving engines zetten de weights om in tokens per seconde — waarvoor het hele gebouw is gebouwd

Leer: hoe een frontiermodel wordt getraind → · wat er gebeurt als je op Enter drukt →

Binnen de grote spelers: hetzelfde probleem, zes antwoorden

Iedereen hierboven verkoopt aan iedereen hieronder — maar elke grote bouwer integreert de stack anders. Dit zijn de werkelijke configuraties, samengesteld uit dezelfde records als de rest van deze database.

The vertical integrator

Google

The only player integrated from self-designed silicon to frontier model — no NVIDIA required anywhere in Gemini's path.

Rekenkracht TPU v7 Ironwood Trillium Its own TPUs — Ironwood for the inference era, Trillium in volume — plus NVIDIA GPUs rented out to Cloud customers.

Fabric TPU pods Optics 3D-torus inter-chip links reconfigured by in-house optical circuit switches; the Jupiter network carries the data center.

Racks & systemen TPU pods Self-designed: the 9,216-chip pod, not the server, is the unit of hardware.

Koeling Direct-to-chip Direct liquid cooling on TPU pods since 2018 — the earliest big liquid fleet.

Vermogen Kairos fleet Nuclear A giant renewables book, the first corporate SMR fleet order, and restart interest.

Software JAX XLA Linux + Borg orchestration underneath; JAX and XLA compile straight to TPU.

Model & locatie Gemini 3 Council Bluffs Gemini 3 trained and served on TPUs end to end.

The alliance at NVIDIA scale

Microsoft + OpenAI

The biggest NVIDIA buyer builds 'AI factories' for its partner's models — with its own silicon waiting in the wings.

Rekenkracht GB200 H100 Maia 100 Frontier NVIDIA fleets — GB200 today atop huge H100 estates — with in-house Maia 100 in supporting roles.

Fabric InfiniBand The world's largest InfiniBand deployments, flat networks spanning whole sites.

Racks & systemen GB200 NVL72 Foxconn Quanta ODM-built NVL72 racks and HGX servers from the Taiwanese manufacturers.

Koeling Fairwater Direct-to-chip Closed-loop direct liquid at Fairwater — fill once, near-zero water after.

Vermogen Crane restart Constellation The Three Mile Island restart PPA (835 MW, 20 years) plus a 10.5 GW renewables framework.

Software DeepSpeed ONNX Runtime Linux + Azure's stack; DeepSpeed for training scale; ONNX for deployment.

Model & locatie GPT-5 Fairwater Stargate GPT-5 trains and serves on this estate; Stargate adds OpenAI's own campuses.

The open-everything builder

xAI

The existence proof that a frontier cluster can be improvised in months — factory shell, gas turbines, batteries and all.

Rekenkracht H100 H200 ~100,000 H100s in 122 days, doubled since; GB200-class capacity at Colossus 2.

Fabric Spectrum-X The flagship Spectrum-X Ethernet deployment — NVIDIA networking without InfiniBand.

Racks & systemen Supermicro Dell Supermicro and Dell liquid-cooled systems, delivered at sprint pace.

Koeling Direct-to-chip Direct liquid throughout — the density made air a non-starter on day one.

Vermogen Gas turbines Colossus On-site gas turbines bridging the grid queue, Tesla Megapacks smoothing training spikes.

Software CUDA A lean in-house training stack on Linux and CUDA — small team, big machine.

Model & locatie Grok 4 Colossus Grok 3 and 4 trained at Colossus; Grok ships inside X.

The custom-silicon bet

AWS + Anthropic

The clearest test of whether a hyperscaler's own chips can carry a frontier lab — half a million Trainiums and counting.

Rekenkracht Trainium2 UltraServer Trainium2 UltraServers at Project Rainier scale, beside NVIDIA fleets for customers.

Fabric UltraServer NeuronLink inside the UltraServer; AWS's own EFA networking and Nitro offload beyond it.

Racks & systemen Annapurna/AWS Annapurna-designed, self-integrated — the cloud primitive as the building block.

Koeling Direct-to-chip Liquid-and-air mix tuned per hall across the Rainier sites.

Vermogen Susquehanna X-energy Nuclear at Susquehanna, X-energy SMR backing, and the largest corporate renewables book.

Software PyTorch vLLM The Neuron SDK is the whole ballgame — porting the open stack to its own silicon.

Model & locatie Claude 4.5 Project Rainier Claude trains at New Carlisle — and, uniquely, also runs on TPUs and GPUs elsewhere.

The embodied-AI factory

Tesla

Trains on video from millions of cars, ships the result back to them — with its own batteries steadying its own cluster.

Rekenkracht H100 Cortex The ~50,000-GPU Cortex cluster at Giga Texas; Dojo wound down for AI5/AI6 chips.

Fabric 800G optics Ethernet-fabric clusters sized for video-scale data ingest.

Racks & systemen Supermicro Supermicro and Dell systems, plus purpose-built data-hall extensions of the factory.

Koeling Direct-to-chip A dedicated liquid-cooling plant built alongside the cluster.

Vermogen Gas turbines Grid supply buffered by its own Megapacks — the manufacturer as its own customer.

Software PyTorch Vision-only training pipeline on PyTorch; models compile down to the car's FSD computer.

Model & locatie Tesla FSD Samsung FSD v13+ ships over the air; AI5/AI6 silicon comes from Samsung and TSMC.

En wie daarna komt

De volledige Watchlist →

Challenger-chips, de platformgeneratie van 2026–27, fotonische interconnects, de nucleaire golf en de architectuurkeuzes voorbij de transformer — bijgehouden met statuslabels op de Watchlist.

Etched Sohu Lightmatter UALink HBM4 Rubin MI400 SMRs Watchlist →

Hoe een AI-datacenter wordt gebouwd