NVIDIA H200
칩
GPU
출하
Hopper with 141 GB of HBM3E — the memory upgrade inference was waiting for.
현재 보고 계신 것은 칩 레코드입니다: 이 프로세서가 무엇인지, 주요 사양, 설계·제조·부품 공급사, 그리고 어디에 활용되는지를 다룹니다.
The H200 pairs the H100 die with 141 GB of HBM3E at 4.8 TB/s — 76% more capacity and 43% more bandwidth. Because LLM inference is usually memory-bound, that alone delivered up to ~2x serving throughput on large models without any new compute. It was the first product to ship HBM3E and bridged the gap to Blackwell.
사양 및 주요 정보
각 수치에는 근거 유형이 표시됩니다: 벤더 사양, 벤더 주장, 보고된 값, 추정치, 또는 공식 발표. "공개되지 않음"은 그대로의 의미이며, 값을 임의로 만들어내는 일은 없습니다.
Overview
Designer
NVIDIA
Architecture
Hopper
Announced
November 2023; shipping from mid-2024
Status
Shipping
Manufacturing
Foundry / process
TSMC 4NVendor spec
메모리
Memory
141 GB HBM3EVendor spec
Memory bandwidth
4.8 TB/sVendor spec
컴퓨트
Compute
Same published tensor throughput as H100 (FP8 dense 1,979 TFLOPS)Vendor spec
전력
TDP
up to 700 WVendor spec
Physical
Form factors
SXM5, NVL
Interconnect
NVLink 4 — 900 GB/sVendor spec
전체 스택에서의 연결 구조
이 레코드의 링크를 한눈에 확인하세요 — 그룹을 클릭하면 해당 위치로 이동합니다. +4 아래에 추가 그룹이 있습니다.
설계사
제조
패키징
메모리 기술
메모리 공급사
포함된 위치
배포처
후속 제품
이전 제품
경쟁 제품
출처
검토 기준일 2026-01-15 — 보기 방법론.