NVIDIA H100

チップ GPU 出荷中

The GPU of the ChatGPT era — the unit of account for the 2023–25 AI build-out.

これはチップのレコードです。このプロセッサの概要、主要スペック、設計・製造・部品供給を担う企業、および用途を紹介します。

Hopper's H100 became the defining commodity of the AI boom: clusters were sized in H100s, startups raised funding denominated in them, and export policy was written around them. Its Transformer Engine pairs fourth-generation tensor cores with FP8 precision, roughly tripling A100 training throughput per chip.

xAI's Colossus assembled roughly 100,000 of them in 122 days; Meta, Microsoft, OpenAI, Google and every major cloud deployed them in the hundreds of thousands. Blackwell succeeded it in 2025, but H100/H200 fleets still carry a large share of world AI compute.

仕様・主要事実

各数値には根拠の種別を明記しています：ベンダー仕様、ベンダー主張、報道値、推定値、または公式値。「非公開」とある場合はその通りであり、当サイトが値を創作することは一切ありません。

Overview

Designer NVIDIA

Architecture Hopper (GH100)

Announced March 2022 (GTC); shipping volume from early 2023

Status Shipping — succeeded by Blackwell at the frontier

Manufacturing

Foundry / process TSMC 4N (custom 5 nm-class)Vendor spec

Transistors 80 billionVendor spec

Die size 814 mm²Vendor spec

Packaging CoWoS-S with 5 or 6 HBM stacksVendor spec

メモリ

Memory 80 GB HBM3 (SXM); 94 GB HBM3 (NVL); 80 GB HBM2e (PCIe)Vendor spec

Memory bandwidth 3.35 (SXM) / 3.9 (NVL) TB/sVendor spec

コンピュート

TF32 tensor (dense) 495 TFLOPSVendor spec NVIDIA datasheets often headline throughput with structured sparsity; figures here are dense unless noted.

BF16/FP16 tensor (dense) 990 TFLOPSVendor spec

FP8 tensor (dense) 1,979 TFLOPSVendor spec FP8 via the Transformer Engine was Hopper's signature feature

INT8 tensor (dense) 1,979 TOPSVendor spec

FP64 tensor 67 TFLOPSVendor spec

AI Performance

MLPerf Set the reference results for training and inference benchmarks across 2023–24 submissionsMLPerf

電力

TDP up to 700 (SXM) / 350 (PCIe) WVendor spec

Physical

Form factors SXM5, PCIe, NVL (paired PCIe)

Interconnect NVLink 4 — 900 GB/s; PCIe 5.0Vendor spec

価格

Launch price Not publicly disclosed

Market price ~$25,000–40,000 per GPU at the 2023–24 peakReported

Cloud rental Roughly $2–7 per GPU-hour across major and specialist clouds during 2025 — falling steadilyReported varies with commitment and provider

スタック全体とのつながり

このレコードのリンク一覧 — グループをクリックするとジャンプします。 +11 他のグループは下部に続く。

設計者

NVIDIA

製造元

TSMC

プロセスノード

TSMC N5 / 4N (5 nm class)

パッケージング

CoWoS

パッケージングプロバイダー

TSMC

メモリ技術

HBM3

メモリ供給元

SK hynix

インターコネクト・ネットワーキング

NVLink & NVSwitch InfiniBand

収録製品

Dell PowerEdge XE9680/XE9712 Supermicro NVL72 & 4U Liquid-Cooled Systems NVIDIA HGX H100/H200

実行数

Megatron-Core vLLM Triton (OpenAI) PyTorch

サポート提供元

CUDA

学習に使用

Llama 3.1 405B Llama 4 Grok 3

入手元

Amazon Web Services Microsoft Google (Alphabet) Oracle CoreWeave Lambda

導入先

xAI Colossus

基礎

NVIDIA H800

後継製品

NVIDIA H200

前身製品

NVIDIA A100

競合製品

AMD Instinct MI300X Google TPU v5p AWS Trainium2 Intel Gaudi 3 Huawei Ascend 910C Groq LPU

出典

NVIDIA H100 page ↗ · Hopper architecture whitepaper ↗

レコードのレビュー時点： 2026-01-15 — 表示調査手法.

NVIDIA H100 ☆