AWS Inferentia2
Amazon's inference chip — cheap tokens for production serving.
Перед вами запись о чипе: что представляет собой этот процессор, его ключевые характеристики, кто проектирует, производит и поставляет его компоненты, и где он применяется.
Inferentia2 is the serving half of Annapurna Labs' silicon line: 32 GB of HBM per chip and a compiler stack (Neuron) that targets cost per inference rather than peak FLOPS. Inf2 instances gang up to 12 chips for large-model serving.
Характеристики и ключевые факты
Каждый показатель подписан по основанию: спецификация вендора, заявление вендора, из отчётности, оценка или официальные данные. «Не раскрыто публично» означает именно это — мы никогда не придумываем значения.
Overview
Память
Вычисления
Physical
Место в общей экосистеме
Ссылки этой записи с первого взгляда — нажмите на группу, чтобы перейти к ней.
Разработан
Доступно от
Связанные
Источники
Запись актуальна на 2026-01-15 — смотреть Методология.