AWS Inferentia2
شريحة
مسرّع الذكاء الاصطناعي
الشحن
Amazon's inference chip — cheap tokens for production serving.
أنت تطّلع على سجل شريحة: ما هذا المعالج، ومواصفاته الرئيسية، ومن يصمّمه ويصنعه ويورّد مكوّناته، وأين يُستخدم.
Inferentia2 is the serving half of Annapurna Labs' silicon line: 32 GB of HBM per chip and a compiler stack (Neuron) that targets cost per inference rather than peak FLOPS. Inf2 instances gang up to 12 chips for large-model serving.
المواصفات والحقائق الرئيسية
كل رقم مُصنَّف بحسب أساسه: مواصفة المورّد، أو ادعاء المورّد، أو مُبلَّغ عنه، أو تقدير، أو رسمي. "غير مُفصَح عنه علناً" تعني ذلك تماماً — لا نخترع أي قيم.
Overview
Designer
AWS (Annapurna Labs)
GA
April 2023
الذاكرة
Memory
32 GB HBM per chipVendor spec
الحوسبة
FP16/BF16
190 TFLOPSVendor spec
Physical
Scale
up to 12 chips per Inf2 instance, NeuronLink interconnectVendor spec
كيف يرتبط هذا ببقية المنظومة
روابط هذا السجل في لمحة — انقر على أي مجموعة للانتقال إليها.
مُصمَّم بواسطة
متاح من
ذات صلة
المصادر
السجل مراجَع بتاريخ 2026-01-15 — عرض المنهجية.