Home › Chip › NVIDIA A100

NVIDIA A100

Chip GPU Generazione precedente

The Ampere workhorse behind GPT-3-era AI — still deployed in huge numbers.

Stai visualizzando un record di chip: cos'è questo processore, le sue specifiche principali, chi lo progetta, lo produce e ne fornisce i componenti, e dove viene utilizzato.

The A100 carried the industry through the first scaling wave: GPT-3, PaLM-era research and most 2020–2022 frontier training ran on A100 clusters. It introduced TF32 math, multi-instance GPU partitioning and the 80 GB HBM2e variant that defined memory-bound LLM work before the H100 arrived.

Specifiche e dati principali

Ogni dato è etichettato in base alla fonte: specifiche del produttore, dichiarazione del produttore, riportato, stima o ufficiale. "Non divulgato pubblicamente" significa esattamente questo — non inventiamo mai valori.

Overview

Designer NVIDIA

Architecture Ampere (GA100)

Announced May 2020 (GTC); 80 GB version November 2020

Status Prior generation — widely deployed

Manufacturing

Foundry / process TSMC N7Vendor spec

Transistors 54.2 billionVendor spec

Die size 826 mm²Vendor spec

Memoria

Memory 40 GB HBM2 or 80 GB HBM2eVendor spec

Memory bandwidth 1,555 (40 GB) / 2,039 (80 GB SXM) GB/sVendor spec

Calcolo

TF32 tensor (dense) 156 TFLOPSVendor spec NVIDIA datasheets often headline throughput with structured sparsity; figures here are dense unless noted.

BF16/FP16 tensor (dense) 312 TFLOPSVendor spec

INT8 tensor (dense) 624 TOPSVendor spec

FP64 tensor 19.5 TFLOPSVendor spec

Energia

TDP 400 (SXM) / 250–300 (PCIe) WVendor spec

Physical

Form factors SXM4, PCIe

Interconnect NVLink 3 — 600 GB/s; PCIe 4.0Vendor spec

Partitioning MIG — up to 7 instancesVendor spec

Prezzo

Launch price Not publicly disclosed

Market price ~$10,000–15,000 per GPU during the 2021–22 cycleReported

Come si collega al resto dello stack

I collegamenti di questa scheda a colpo d'occhio — clicca un gruppo per raggiungerlo. +3 altri gruppi più in basso.

Progettato da

NVIDIA

Prodotto da

TSMC

Nodo di processo

TSMC N7 (7 nm)

Packaging

CoWoS

Tecnologia di memoria

HBM2E

Usato per addestrare

GPT-4

Disponibile da

Amazon Web Services Microsoft Google (Alphabet)

Base per

NVIDIA A800

Sostituito da

NVIDIA H100

Successore di

NVIDIA V100

È in concorrenza con

Google TPU v4 AMD Instinct MI250X Intel Gaudi 2

Fonti

NVIDIA A100 page ↗

Record revisionato al 2026-01-15 — vedi Metodologia.