NVIDIA A100

Chip GPU Thế hệ trước

The Ampere workhorse behind GPT-3-era AI — still deployed in huge numbers.

Bạn đang xem hồ sơ chip: bộ xử lý này là gì, các thông số kỹ thuật chính, ai thiết kế, ai sản xuất và cung cấp linh kiện, và nó được sử dụng ở đâu.

The A100 carried the industry through the first scaling wave: GPT-3, PaLM-era research and most 2020–2022 frontier training ran on A100 clusters. It introduced TF32 math, multi-instance GPU partitioning and the 80 GB HBM2e variant that defined memory-bound LLM work before the H100 arrived.

Thông số kỹ thuật & dữ liệu chính

Mỗi số liệu được gán nhãn theo cơ sở: thông số kỹ thuật từ nhà cung cấp, tuyên bố từ nhà cung cấp, đã được báo cáo, ước tính, hoặc chính thức. "Không được công bố công khai" có nghĩa đúng như vậy — chúng tôi không bao giờ bịa đặt số liệu.

Overview

Designer NVIDIA

Architecture Ampere (GA100)

Announced May 2020 (GTC); 80 GB version November 2020

Status Prior generation — widely deployed

Manufacturing

Foundry / process TSMC N7Vendor spec

Transistors 54.2 billionVendor spec

Die size 826 mm²Vendor spec

Bộ nhớ

Memory 40 GB HBM2 or 80 GB HBM2eVendor spec

Memory bandwidth 1,555 (40 GB) / 2,039 (80 GB SXM) GB/sVendor spec

Điện toán

TF32 tensor (dense) 156 TFLOPSVendor spec NVIDIA datasheets often headline throughput with structured sparsity; figures here are dense unless noted.

BF16/FP16 tensor (dense) 312 TFLOPSVendor spec

INT8 tensor (dense) 624 TOPSVendor spec

FP64 tensor 19.5 TFLOPSVendor spec

Điện năng

TDP 400 (SXM) / 250–300 (PCIe) WVendor spec

Physical

Form factors SXM4, PCIe

Interconnect NVLink 3 — 600 GB/s; PCIe 4.0Vendor spec

Partitioning MIG — up to 7 instancesVendor spec

Giá

Launch price Not publicly disclosed

Market price ~$10,000–15,000 per GPU during the 2021–22 cycleReported

Kết nối của mục này với phần còn lại của hệ thống

Các liên kết của hồ sơ này trong nháy mắt — nhấp vào một nhóm để chuyển đến nhóm đó. +3 các nhóm khác bên dưới.

Thiết kế bởi

NVIDIA

Được sản xuất bởi

TSMC

Node quy trình

TSMC N7 (7 nm)

Đóng gói

CoWoS

Công nghệ bộ nhớ

HBM2E

Được dùng để huấn luyện

GPT-4

Có sẵn từ

Amazon Web Services Microsoft Google (Alphabet)

Cơ sở cho

NVIDIA A800

Được kế nhiệm bởi

NVIDIA H100

Kế nhiệm

NVIDIA V100

Cạnh tranh với

Google TPU v4 AMD Instinct MI250X Intel Gaudi 2

Nguồn

NVIDIA A100 page ↗

Hồ sơ được xem xét tính đến 2026-01-15 — xem Phương pháp luận.

NVIDIA A100 ☆