How an AI Data Center Is Built — Every Component, Every Maker

‹ Kembali

Baca halaman ini dari atas hingga bawah dan Anda telah mengikuti rantai pengadaan nyata: silicon → board → rak → kabel → pendinginan → daya → perangkat lunak → model. Alur yang sama berlaku untuk akselerator apa pun — ganti tahap pertama dan sisa rantai hampir tidak berubah.

1 GPU itu sendiri adalah rantai pasokan

"GPU NVIDIA" sebenarnya merupakan satu paket komponen dari lima negara. NVIDIA merancang desain dan perangkat lunaknya; hampir semua bagian fisiknya dibuat oleh pihak lain.

Logic die (unit komputasi) TSMC 4NP process diproduksi di Taiwan menggunakan mesin yang hanya bisa dibuat oleh ASML — ASML EUV Apakah TSMC satu-satunya pilihan? Di level terdepan, praktis ya — setiap chip AI unggulan dibuat di sana saat ini. Dua alternatif yang sedang mengejar: Samsung Foundry · Intel Foundry

Memori (tumpukan HBM) SK hynix Micron Samsung delapan tumpukan per B200; habis terjual sekitar setahun ke depan — HBM3E

Pengemasan (die + memori digabungkan) TSMC CoWoS Amkor ASE langkah yang membatasi pasokan GPU dunia pada 2023–24

Perakitan board Foxconn Quanta modul SXM dan papan superchip dibuat oleh produsen Taiwan, bukan NVIDIA

Penyaluran daya pada papan sirkuit Monolithic Power Infineon Delta menurunkan tegangan rak ke ~1 V pada lebih dari seribu ampere per die

Antarmuka jaringan NVIDIA BlueField / ConnectX satu NIC 400–800G per GPU adalah perangkat standar

Lembar spesifikasi lengkap: B200 · GB200 · atau lacak rantai pasokan chip mana pun dari halaman rekamannya.

2 Server dan rak

GPU dikirimkan dalam sistem yang dirancang khusus. Pada skala Blackwell, rak itu sendiri adalah produknya: 18 tray komputasi, 9 tray switch, satu spine tembaga.

Sistem skala rak GB200 NVL72 HGX baseboards ~120 kW per rak — konsumsi daya seratus rumah dalam jejak selebar lemari

Siapa yang membangunnya Foxconn Quanta Wiwynn ODM untuk para hyperscaler…

…dan siapa yang memberi merek pada produk tersebut Supermicro Dell HPE Lenovo saluran enterprise, disertai kontrak layanan

Konektor & retimer Amphenol TE Connectivity Astera Labs ribuan kontak berkecepatan tinggi per rak; retimer menjaga sinyal PCIe tetap stabil di seluruh sasis

3 Pengkabelan

Pertanyaan yang selalu terlupakan. Tiga jenis kabel, tiga ekosistem pemasok — dan pada skala klaster, tagihan pengkabelan mencapai ratusan juta dolar.

Di dalam rak: tembaga Amphenol TE Connectivity Credo Kabel DAC dan kabel aktif-elektrik; tulang punggung NVLink NVL72 saja menggunakan ~5.000 kabel tembaga — lebih dari tiga kilometer per rak

Antar rak: cahaya 800G optics Coherent Lumentum Fabrinet transceiver yang dapat dipasang per ratusan ribu per kluster; laser dari produsen fotonik, perakitan sebagian besar di Thailand

Kaca itu sendiri Corning jumlah kabel serat optik di kampus kini mencapai jutaan kilometer

Switch tempat semuanya tersambung NVIDIA InfiniBand Spectrum-X Arista Broadcom silicon pilihan InfiniBand vs. Ethernet adalah keputusan arsitektur terbesar setelah GPU itu sendiri

Pelajari: bagaimana 100.000 GPU menjadi satu komputer →

4 Pendinginan — dan mengapa ini menentukan peta

Sekilas

Pada chip: cold plate Direct-to-chip CoolIT Boyd pelat mikrochannel tembaga yang dipasang pada setiap GPU, CPU, dan ASIC switch

Di dalam baris: CDU Coolant distribution units Vertiv Schneider (Motivair) Delta Rangkaian pompa dan penukar panas berkapasitas 2 MW — kategori produk yang hampir tidak ada pada tahun 2022

Membuang panas Rear-door HX Immersion Munters dry cooler, menara, atau chiller di luar ruangan; loop tertutup diisi sekali dan hampir tidak mengonsumsi air

Sinyal pemilihan lokasi: pendinginan adalah alasan pusat data secara historis dibangun di dekat sungai dan danau (desain evaporatif), dan mengapa generasi sistem loop tertutup yang baru justru bisa mengejar energi murah di wilayah kering. Para pengintai lokasi membaca kampus dari peta berdasarkan tanda-tanda ini — hak atas air, koridor tegangan tinggi, jalur serat optik, iklim sejuk. Pelajari: ke mana data center dibangun, dan mengapa →

5 Ruang daya

Antara jaringan listrik dan rak-rak terdapat sebuah gedung penuh peralatan dengan waktu pengadaan bertahun-tahun — biasanya itulah jalur kritis yang sesungguhnya.

Transformer & koneksi jaringan listrik Hitachi Energy Siemens Energy Interconnection Waktu tunggu 3–5 tahun menjadikan perangkat ini sebagai unit paling langka di industri

Switchgear, UPS, busway Eaton Schneider ABB Vertiv tulang punggung kelistrikan; rak generasi berikutnya bergerak menuju distribusi DC 800 volt

Backup & daya jembatan Cummins Caterpillar Gas turbines Bloom fuel cells genset untuk pemadaman listrik; seluruh unit turbin di mana antrean jaringan listrik terlalu lambat

Megawatt itu sendiri Proyek daya Restart nuklir Surya + penyimpanan kesepakatan yang memasok kampus-kampus ini — dipetakan di bagian Power

Hitung sendiri aritmatikanya: Kalkulator Daya Kluster →

6 Perangkat lunak yang Anda instal

Rak datang dalam bentuk logam. Inilah stack-nya, dalam urutan pemasangannya — dan ya, dimulai dengan Linux.

Sistem operasi Linux hampir setiap server AI di dunia menjalankannya — Ubuntu, RHEL, atau build internal hyperscaler

Driver & platform komputasi CUDA ROCm (AMD) XLA (TPU) lapisan yang membuat silikon dapat diprogram — dan parit terdalam di industri ini

Pipa kluster NCCL Kubernetes Slurm Ray collective untuk sinkronisasi GPU; scheduler untuk berbagi mesin

Framework pelatihan PyTorch JAX Megatron DeepSpeed tempat kode model sebenarnya berada

Selanjutnya: instal model Anda Latih satu atau ambil bobot terbuka vLLM TensorRT-LLM serving engine mengubah bobot menjadi token per detik — itulah tujuan seluruh bangunan ini dibangun

Pelajari: bagaimana sebuah model frontier dilatih → · apa yang terjadi saat Anda menekan Enter →

Di balik para raksasa: masalah yang sama, enam solusi berbeda

Semua pihak di atas menjual kepada semua pihak di bawah — tetapi setiap pembangun besar mengintegrasikan stack dengan cara berbeda. Inilah konfigurasi nyatanya, disusun dari catatan yang sama yang digunakan seluruh database ini.

The vertical integrator

Google

The only player integrated from self-designed silicon to frontier model — no NVIDIA required anywhere in Gemini's path.

Komputasi TPU v7 Ironwood Trillium Its own TPUs — Ironwood for the inference era, Trillium in volume — plus NVIDIA GPUs rented out to Cloud customers.

Fabric TPU pods Optics 3D-torus inter-chip links reconfigured by in-house optical circuit switches; the Jupiter network carries the data center.

Rak & sistem TPU pods Self-designed: the 9,216-chip pod, not the server, is the unit of hardware.

Pendinginan Direct-to-chip Direct liquid cooling on TPU pods since 2018 — the earliest big liquid fleet.

Daya Kairos fleet Nuclear A giant renewables book, the first corporate SMR fleet order, and restart interest.

Perangkat Lunak JAX XLA Linux + Borg orchestration underneath; JAX and XLA compile straight to TPU.

Model & lokasi Gemini 3 Council Bluffs Gemini 3 trained and served on TPUs end to end.

The alliance at NVIDIA scale

Microsoft + OpenAI

The biggest NVIDIA buyer builds 'AI factories' for its partner's models — with its own silicon waiting in the wings.

Komputasi GB200 H100 Maia 100 Frontier NVIDIA fleets — GB200 today atop huge H100 estates — with in-house Maia 100 in supporting roles.

Fabric InfiniBand The world's largest InfiniBand deployments, flat networks spanning whole sites.

Rak & sistem GB200 NVL72 Foxconn Quanta ODM-built NVL72 racks and HGX servers from the Taiwanese manufacturers.

Pendinginan Fairwater Direct-to-chip Closed-loop direct liquid at Fairwater — fill once, near-zero water after.

Daya Crane restart Constellation The Three Mile Island restart PPA (835 MW, 20 years) plus a 10.5 GW renewables framework.

Perangkat Lunak DeepSpeed ONNX Runtime Linux + Azure's stack; DeepSpeed for training scale; ONNX for deployment.

Model & lokasi GPT-5 Fairwater Stargate GPT-5 trains and serves on this estate; Stargate adds OpenAI's own campuses.

The open-everything builder

xAI

The existence proof that a frontier cluster can be improvised in months — factory shell, gas turbines, batteries and all.

Komputasi H100 H200 ~100,000 H100s in 122 days, doubled since; GB200-class capacity at Colossus 2.

Fabric Spectrum-X The flagship Spectrum-X Ethernet deployment — NVIDIA networking without InfiniBand.

Rak & sistem Supermicro Dell Supermicro and Dell liquid-cooled systems, delivered at sprint pace.

Pendinginan Direct-to-chip Direct liquid throughout — the density made air a non-starter on day one.

Daya Gas turbines Colossus On-site gas turbines bridging the grid queue, Tesla Megapacks smoothing training spikes.

Perangkat Lunak CUDA A lean in-house training stack on Linux and CUDA — small team, big machine.

Model & lokasi Grok 4 Colossus Grok 3 and 4 trained at Colossus; Grok ships inside X.

The custom-silicon bet

AWS + Anthropic

The clearest test of whether a hyperscaler's own chips can carry a frontier lab — half a million Trainiums and counting.

Komputasi Trainium2 UltraServer Trainium2 UltraServers at Project Rainier scale, beside NVIDIA fleets for customers.

Fabric UltraServer NeuronLink inside the UltraServer; AWS's own EFA networking and Nitro offload beyond it.

Rak & sistem Annapurna/AWS Annapurna-designed, self-integrated — the cloud primitive as the building block.

Pendinginan Direct-to-chip Liquid-and-air mix tuned per hall across the Rainier sites.

Daya Susquehanna X-energy Nuclear at Susquehanna, X-energy SMR backing, and the largest corporate renewables book.

Perangkat Lunak PyTorch vLLM The Neuron SDK is the whole ballgame — porting the open stack to its own silicon.

Model & lokasi Claude 4.5 Project Rainier Claude trains at New Carlisle — and, uniquely, also runs on TPUs and GPUs elsewhere.

The embodied-AI factory

Tesla

Trains on video from millions of cars, ships the result back to them — with its own batteries steadying its own cluster.

Komputasi H100 Cortex The ~50,000-GPU Cortex cluster at Giga Texas; Dojo wound down for AI5/AI6 chips.

Fabric 800G optics Ethernet-fabric clusters sized for video-scale data ingest.

Rak & sistem Supermicro Supermicro and Dell systems, plus purpose-built data-hall extensions of the factory.

Pendinginan Direct-to-chip A dedicated liquid-cooling plant built alongside the cluster.

Daya Gas turbines Grid supply buffered by its own Megapacks — the manufacturer as its own customer.

Perangkat Lunak PyTorch Vision-only training pipeline on PyTorch; models compile down to the car's FSD computer.

Model & lokasi Tesla FSD Samsung FSD v13+ ships over the air; AI5/AI6 silicon comes from Samsung and TSMC.

Dirancang oleh Annapurna, diintegrasikan secara mandiri — primitif cloud sebagai blok bangunan.

Watchlist lengkap →

Silikon penantang, generasi platform 2026–27, interkoneksi fotonik, gelombang nuklir, dan taruhan arsitektur di luar transformer — dilacak dengan label status di Watchlist.

Etched Sohu Lightmatter UALink HBM4 Rubin MI400 SMRs Watchlist →

Cara Data Center AI Dibangun