Năm mươi lăm chip, một câu hỏi: compute đã dồi dào, vậy thứ gì đang khan hiếm? Bộ nhớ, đóng gói và điện năng. Hãy đọc bất kỳ bảng thông số nào ở đây với góc nhìn đó — con số FLOPS tiêu đề ít quan trọng hơn số gigabyte bên cạnh — và nhãn cơ sở cho bạn biết cái gì được đo thực tế so với cái gì chỉ là quảng cáo.
Bắt đầu với ba khái niệm này
Băng thông bộ nhớ theo năm ra mắt
Luận điểm của toàn bộ phần này trong một hình ảnh: băng thông bộ nhớ trên mỗi chip đã tăng khoảng mười lần trong tám năm, và mỗi bước tiến trên đường cong này là một thế hệ HBM. Nhấp vào bất kỳ điểm nào để mở hồ sơ tương ứng; bộ nhớ on-chip quy mô wafer được loại trừ vì thuộc loại khác.
Băng thông bộ nhớ theo thông số nhà sản xuất trên mỗi chip (TB/s) theo năm ra mắt lần đầu, từ các hồ sơ bên dưới — chỉ bao gồm các chip HBM mật độ cao.
Các số liệu dưới đây là những thông tin chính; mọi giá trị trên trang bản ghi đều có nhãn cơ sở (thông số kỹ thuật từ nhà cung cấp / tuyên bố / đã được báo cáo / ước tính). Các giá trị còn thiếu có nghĩa là nhà cung cấp chưa công bố.
| Chip | Phân loại | Năm | Quy trình | Bộ nhớ | Băng thông bộ nhớ (TB/s) | TDP (W) | Trạng thái | ★ |
|---|---|---|---|---|---|---|---|---|
| AMD Instinct MI400 / MI450AMD | GPU | 2026 | — | 432 GB HBM4 | — | — | Đang tăng tốc | |
| AMD Instinct MI355XAMD | GPU | 2025 | TSMC N3P | 288 GB HBM3E | 8.00 | 1,400 | Vận chuyển | |
| AMD EPYC 9005 (Turin)AMD | CPU | 2024 | TSMC N4/N3 | — | — | — | Vận chuyển | |
| AMD Instinct MI325XAMD | GPU | 2024 | TSMC N5/N6 | 256 GB HBM3E | 6.00 | 1,000 | Vận chuyển | |
| AMD Instinct MI300AAMD | APU | 2023 | TSMC N5/N6 | 128 GB HBM3 (unified) | 5.30 | 760 | Vận chuyển | |
| AMD Instinct MI300XAMD | GPU | 2023 | TSMC N5/N6 | 192 GB HBM3 | 5.30 | 750 | Vận chuyển | |
| AMD Instinct MI250XAMD | GPU | 2021 | TSMC N6 | 128 GB HBM2e | 3.20 | 560 | Thế hệ trước | |
| AWS Trainium3AWS Annapurna | AI Accelerator | 2026 | 3 nm-class | — | — | — | Câu trả lời được tạo ra chỉ từ các hồ sơ đã lưu trong bộ nhớ cache của chúng tôi — phục vụ nghiên cứu và thông tin, không bao giờ là tư vấn đầu tư. Các con số giữ nguyên nhãn cơ sở; nếu dữ liệu của chúng tôi không thể trả lời, trợ lý sẽ nói rõ điều đó. | |
| AWS Graviton4AWS Annapurna | CPU | 2024 | — | — | — | — | Vận chuyển | |
| AWS Trainium2AWS Annapurna | AI Accelerator | 2024 | — | 96 GB HBM3 | 2.90 | — | Vận chuyển | |
| AWS Inferentia2AWS Annapurna | AI Accelerator | 2023 | — | 32 GB HBM | — | — | Vận chuyển | |
| AWS TrainiumAWS Annapurna | AI Accelerator | 2022 | — | 32 GB HBM | — | — | Thế hệ trước | |
| Biren BR100Biren | AI Accelerator | 2022 | TSMC N7 | — | — | — | Lịch sử | |
| Cambricon Siyuan 590Cambricon | AI Accelerator | 2023 | — | — | — | — | Vận chuyển | |
| Cerebras WSE-3Cerebras | Wafer-Scale | 2024 | TSMC N5 | 44 GB on-chip SRAM | 21,000 | 23,000 | Vận chuyển | |
| Etched SohuEtched | AI Accelerator | 2026 | — | 144 GB HBM3E | — | — | Đang phát triển | |
| FuriosaAI RNGDFuriosaAI | AI Accelerator | 2024 | TSMC N5 | 48 GB HBM3 | — | 150 | Đang tăng tốc | |
| Google TPU v7 (Ironwood)Google | AI Accelerator | 2025 | — | 192 GB HBM3E | 7.37 | — | Đang tăng tốc | |
| Google AxionGoogle | CPU | 2024 | — | — | — | — | Vận chuyển | |
| Google TPU v6e (Trillium)Google | AI Accelerator | 2024 | — | 32 GB HBM | 1.60 | — | Vận chuyển | |
| Google TPU v5eGoogle | AI Accelerator | 2023 | — | 16 GB HBM2 | 0.82 | — | Vận chuyển | |
| Google TPU v5pGoogle | AI Accelerator | 2023 | — | 95 GB HBM2e | 2.77 | — | Vận chuyển | |
| Google TPU v4Google | AI Accelerator | 2021 | TSMC N7 | 32 GB HBM2 | 1.20 | 192 | Thế hệ trước | |
| Google TPU v1–v3Google | AI Accelerator | 2015 | 28 nm (v1) | — | — | — | Lịch sử | |
| Graphcore Bow IPUGraphcore | AI Accelerator | 2022 | TSMC N7 (WoW) | 900 MB SRAM | — | — | Lịch sử | |
| Groq LPUGroq | AI Accelerator | 2020 | GF 14 nm | 230 MB SRAM | — | — | Vận chuyển | |
| Huawei Ascend 910CHuawei (HiSilicon) | AI Accelerator | 2025 | SMIC N+2 (7 nm-class) | 128 GB HBM2E | — | — | Vận chuyển | |
| Intel Xeon 6Intel | CPU | 2024 | Intel 3 | — | — | — | Vận chuyển | |
| Intel Gaudi 3Intel (Habana) | AI Accelerator | 2024 | TSMC N5 | 128 GB HBM2E | 3.70 | 900 | Vận chuyển | |
| Intel Gaudi 2Intel (Habana) | AI Accelerator | 2022 | TSMC N7 | 96 GB HBM2E | 2.45 | 600 | Thế hệ trước | |
| Meta MTIA v2Meta | AI Accelerator | 2024 | TSMC N5 | — | — | 90 | Vận chuyển | |
| Microsoft Cobalt 100Microsoft | CPU | 2024 | — | — | — | — | Vận chuyển | |
| Microsoft Maia 100Microsoft | AI Accelerator | 2024 | TSMC N5 | 64 GB HBM2E | 1.80 | 700 | Vận chuyển | |
| NVIDIA RubinNVIDIA | GPU | 2026 | TSMC N3 (reported) | 288 GB HBM4 | — | — | Đang tăng tốc | |
| NVIDIA Rubin CPXNVIDIA | AI Accelerator | 2026 | — | 128 GB GDDR7 | — | — | Câu trả lời được tạo ra chỉ từ các hồ sơ đã lưu trong bộ nhớ cache của chúng tôi — phục vụ nghiên cứu và thông tin, không bao giờ là tư vấn đầu tư. Các con số giữ nguyên nhãn cơ sở; nếu dữ liệu của chúng tôi không thể trả lời, trợ lý sẽ nói rõ điều đó. | |
| NVIDIA Vera CPUNVIDIA | CPU | 2026 | — | — | — | — | Câu trả lời được tạo ra chỉ từ các hồ sơ đã lưu trong bộ nhớ cache của chúng tôi — phục vụ nghiên cứu và thông tin, không bao giờ là tư vấn đầu tư. Các con số giữ nguyên nhãn cơ sở; nếu dữ liệu của chúng tôi không thể trả lời, trợ lý sẽ nói rõ điều đó. | |
| NVIDIA B300 (Blackwell Ultra)NVIDIA | GPU | 2025 | TSMC 4NP | 288 GB HBM3E | 8.00 | 1,400 | Đang tăng tốc | |
| NVIDIA B100NVIDIA | GPU | 2024 | TSMC 4NP | 192 GB HBM3E | 8.00 | 700 | Lịch sử | |
| NVIDIA B200NVIDIA | GPU | 2024 | TSMC 4NP | 192 GB HBM3E | 8.00 | 1,000 | Vận chuyển | |
| NVIDIA GB200 Grace BlackwellNVIDIA | Superchip | 2024 | TSMC 4NP | 384 GB HBM3E + 480 GB LPDDR5X | 16.00 | 2,700 | Vận chuyển | |
| NVIDIA H200NVIDIA | GPU | 2024 | TSMC 4N | 141 GB HBM3E | 4.80 | 700 | Vận chuyển | |
| NVIDIA BlueField-3NVIDIA | DPU | 2023 | — | — | — | — | Vận chuyển | |
| NVIDIA GH200 Grace HopperNVIDIA | Superchip | 2023 | TSMC 4N | 96 GB HBM3 or 144 GB HBM3E + 480 GB LPDDR5X | 4.90 | 1,000 | Vận chuyển | |
| NVIDIA Grace CPUNVIDIA | CPU | 2023 | TSMC 4N | 480 GB LPDDR5X | — | 500 | Vận chuyển | |
| NVIDIA H800NVIDIA | GPU | 2023 | TSMC 4N | 80 GB HBM3 | 3.35 | 700 | Lịch sử | |
| NVIDIA L40SNVIDIA | GPU | 2023 | TSMC 4N | 48 GB GDDR6 | 0.864 | 350 | Vận chuyển | |
| NVIDIA A800NVIDIA | GPU | 2022 | TSMC N7 | 40/80 GB HBM2e | 2.00 | 400 | Lịch sử | |
| NVIDIA H100NVIDIA | GPU | 2022 | TSMC 4N | 80 GB HBM3 | 3.35 | 700 | Vận chuyển | |
| NVIDIA A100NVIDIA | GPU | 2020 | TSMC N7 | 40/80 GB HBM2e | 2.00 | 400 | Thế hệ trước | |
| NVIDIA V100NVIDIA | GPU | 2017 | TSMC 12FFN | 16/32 GB HBM2 | 0.9 | 300 | Lịch sử | |
| Qualcomm Cloud AI / AI200Qualcomm | AI Accelerator | 2026 | — | — | — | — | Câu trả lời được tạo ra chỉ từ các hồ sơ đã lưu trong bộ nhớ cache của chúng tôi — phục vụ nghiên cứu và thông tin, không bao giờ là tư vấn đầu tư. Các con số giữ nguyên nhãn cơ sở; nếu dữ liệu của chúng tôi không thể trả lời, trợ lý sẽ nói rõ điều đó. | |
| Rebellions REBELRebellions | AI Accelerator | 2025 | Samsung | — | — | — | Đang phát triển | |
| SambaNova SN40LSambaNova | AI Accelerator | 2023 | TSMC N5 | 64 GB HBM + 1.5 TB DDR | — | — | Vận chuyển | |
| Tenstorrent BlackholeTenstorrent | AI Accelerator | 2024 | — | 32 GB GDDR6 | — | — | Vận chuyển | |
| d-Matrix Corsaird-Matrix | AI Accelerator | 2024 | — | — | — | — | Đang tăng tốc |
Mem BW = băng thông bộ nhớ đỉnh, theo thông số kỹ thuật của nhà cung cấp. TDP = công suất thiết kế nhiệt cấu hình tối đa. "—" có nghĩa là nhà cung cấp chưa công bố con số này. Tải xuống: chips.csv · JSON