NVIDIA A100

Чип GPU Предыдущее поколение

The Ampere workhorse behind GPT-3-era AI — still deployed in huge numbers.

Перед вами запись о чипе: что представляет собой этот процессор, его ключевые характеристики, кто проектирует, производит и поставляет его компоненты, и где он применяется.

The A100 carried the industry through the first scaling wave: GPT-3, PaLM-era research and most 2020–2022 frontier training ran on A100 clusters. It introduced TF32 math, multi-instance GPU partitioning and the 80 GB HBM2e variant that defined memory-bound LLM work before the H100 arrived.

Характеристики и ключевые факты

Каждый показатель подписан по основанию: спецификация вендора, заявление вендора, из отчётности, оценка или официальные данные. «Не раскрыто публично» означает именно это — мы никогда не придумываем значения.

Overview

Designer NVIDIA

Architecture Ampere (GA100)

Announced May 2020 (GTC); 80 GB version November 2020

Status Prior generation — widely deployed

Manufacturing

Foundry / process TSMC N7Vendor spec

Transistors 54.2 billionVendor spec

Die size 826 mm²Vendor spec

Память

Memory 40 GB HBM2 or 80 GB HBM2eVendor spec

Memory bandwidth 1,555 (40 GB) / 2,039 (80 GB SXM) GB/sVendor spec

Вычисления

TF32 tensor (dense) 156 TFLOPSVendor spec NVIDIA datasheets often headline throughput with structured sparsity; figures here are dense unless noted.

BF16/FP16 tensor (dense) 312 TFLOPSVendor spec

INT8 tensor (dense) 624 TOPSVendor spec

FP64 tensor 19.5 TFLOPSVendor spec

Электропотребление

TDP 400 (SXM) / 250–300 (PCIe) WVendor spec

Physical

Form factors SXM4, PCIe

Interconnect NVLink 3 — 600 GB/s; PCIe 4.0Vendor spec

Partitioning MIG — up to 7 instancesVendor spec

Цена

Launch price Not publicly disclosed

Market price ~$10,000–15,000 per GPU during the 2021–22 cycleReported

Место в общей экосистеме

Ссылки этой записи с первого взгляда — нажмите на группу, чтобы перейти к ней. +3 другие группы ниже.

Разработан

NVIDIA

Производится

TSMC

Технологический узел

TSMC N7 (7 nm)

Корпусирование

CoWoS

Технология памяти

HBM2E

Применяется для обучения

GPT-4

Доступно от

Amazon Web Services Microsoft Google (Alphabet)

Основа для

NVIDIA A800

Заменён на

NVIDIA H100

Преемник

NVIDIA V100

Конкурирует с

Google TPU v4 AMD Instinct MI250X Intel Gaudi 2

Источники

NVIDIA A100 page ↗

Запись актуальна на 2026-01-15 — смотреть Методология.

NVIDIA A100 ☆