AWS Inferentia2
Amazon's inference chip — cheap tokens for production serving.
आप एक chip रिकॉर्ड देख रहे हैं: यह processor क्या है, इसकी मुख्य specs, इसे कौन डिज़ाइन करता है, कौन बनाता है और इसके पुर्जे कौन आपूर्ति करता है, और यह कहाँ उपयोग होता है।
Inferentia2 is the serving half of Annapurna Labs' silicon line: 32 GB of HBM per chip and a compiler stack (Neuron) that targets cost per inference rather than peak FLOPS. Inf2 instances gang up to 12 chips for large-model serving.
विशेषताएँ और मुख्य तथ्य
प्रत्येक आंकड़े पर उसका आधार अंकित है: vendor spec, vendor claim, reported, estimate, या official। "Not publicly disclosed" का अर्थ ठीक यही है — हम कोई मान गढ़ते नहीं।
Overview
मेमोरी
कंप्यूट
Physical
यह बाकी स्टैक से कैसे जुड़ता है
इस रिकॉर्ड के लिंक एक नज़र में — किसी समूह पर क्लिक करके उस पर जाएँ।
द्वारा डिज़ाइन किया गया
यहाँ से उपलब्ध
संबंधित
स्रोत
रिकॉर्ड की समीक्षा की गई 2026-01-15 — देखें पद्धति.