NVIDIA H200
Hopper with 141 GB of HBM3E — the memory upgrade inference was waiting for.
Bạn đang xem hồ sơ chip: bộ xử lý này là gì, các thông số kỹ thuật chính, ai thiết kế, ai sản xuất và cung cấp linh kiện, và nó được sử dụng ở đâu.
The H200 pairs the H100 die with 141 GB of HBM3E at 4.8 TB/s — 76% more capacity and 43% more bandwidth. Because LLM inference is usually memory-bound, that alone delivered up to ~2x serving throughput on large models without any new compute. It was the first product to ship HBM3E and bridged the gap to Blackwell.
Thông số kỹ thuật & dữ liệu chính
Mỗi số liệu được gán nhãn theo cơ sở: thông số kỹ thuật từ nhà cung cấp, tuyên bố từ nhà cung cấp, đã được báo cáo, ước tính, hoặc chính thức. "Không được công bố công khai" có nghĩa đúng như vậy — chúng tôi không bao giờ bịa đặt số liệu.
Overview
Manufacturing
Bộ nhớ
Điện toán
Điện năng
Physical
Kết nối của mục này với phần còn lại của hệ thống
Các liên kết của hồ sơ này trong nháy mắt — nhấp vào một nhóm để chuyển đến nhóm đó. +4 các nhóm khác bên dưới.
Thiết kế bởi
Được sản xuất bởi
Node quy trình
Đóng gói
Công nghệ bộ nhớ
Bộ nhớ cung cấp bởi
Có mặt trong
Có sẵn từ
Triển khai tại
Được kế nhiệm bởi
Kế nhiệm
Cạnh tranh với
Nguồn
Hồ sơ được xem xét tính đến 2026-01-15 — xem Phương pháp luận.