AWS Inferentia2
칩
AI 가속기
출하
Amazon's inference chip — cheap tokens for production serving.
현재 보고 계신 것은 칩 레코드입니다: 이 프로세서가 무엇인지, 주요 사양, 설계·제조·부품 공급사, 그리고 어디에 활용되는지를 다룹니다.
Inferentia2 is the serving half of Annapurna Labs' silicon line: 32 GB of HBM per chip and a compiler stack (Neuron) that targets cost per inference rather than peak FLOPS. Inf2 instances gang up to 12 chips for large-model serving.
사양 및 주요 정보
각 수치에는 근거 유형이 표시됩니다: 벤더 사양, 벤더 주장, 보고된 값, 추정치, 또는 공식 발표. "공개되지 않음"은 그대로의 의미이며, 값을 임의로 만들어내는 일은 없습니다.
Overview
Designer
AWS (Annapurna Labs)
GA
April 2023
메모리
Memory
32 GB HBM per chipVendor spec
컴퓨트
FP16/BF16
190 TFLOPSVendor spec
Physical
Scale
up to 12 chips per Inf2 instance, NeuronLink interconnectVendor spec
전체 스택에서의 연결 구조
이 레코드의 링크를 한눈에 확인하세요 — 그룹을 클릭하면 해당 위치로 이동합니다.
출처
검토 기준일 2026-01-15 — 보기 방법론.