AWS Inferentia2
チップ
AIアクセラレーター
出荷中
Amazon's inference chip — cheap tokens for production serving.
これはチップのレコードです。このプロセッサの概要、主要スペック、設計・製造・部品供給を担う企業、および用途を紹介します。
Inferentia2 is the serving half of Annapurna Labs' silicon line: 32 GB of HBM per chip and a compiler stack (Neuron) that targets cost per inference rather than peak FLOPS. Inf2 instances gang up to 12 chips for large-model serving.
仕様・主要事実
各数値には根拠の種別を明記しています：ベンダー仕様、ベンダー主張、報道値、推定値、または公式値。「非公開」とある場合はその通りであり、当サイトが値を創作することは一切ありません。
Overview
Designer
AWS (Annapurna Labs)
GA
April 2023
メモリ
Memory
32 GB HBM per chipVendor spec
コンピュート
FP16/BF16
190 TFLOPSVendor spec
Physical
Scale
up to 12 chips per Inf2 instance, NeuronLink interconnectVendor spec
スタック全体とのつながり
このレコードのリンク一覧 — グループをクリックするとジャンプします。
出典
レコードのレビュー時点： 2026-01-15 — 表示 調査手法.