AWS Inferentia2
Amazon's inference chip — cheap tokens for production serving.
Vous consultez une fiche chip : ce qu'est ce processeur, ses spécifications clés, qui le conçoit, le fabrique et en fournit les composants, et où il est utilisé.
Inferentia2 is the serving half of Annapurna Labs' silicon line: 32 GB of HBM per chip and a compiler stack (Neuron) that targets cost per inference rather than peak FLOPS. Inf2 instances gang up to 12 chips for large-model serving.
Spécifications et faits clés
Chaque valeur est étiquetée selon sa base : spécification fabricant, déclaration fabricant, donnée rapportée, estimation ou officielle. « Non divulgué publiquement » signifie exactement cela — nous n'inventons jamais de valeurs.
Overview
Mémoire
Calcul
Physical
Comment cela s'articule avec le reste de la chaîne
Les liens de cette fiche en un coup d'œil — cliquez sur un groupe pour y accéder directement.
Conçu par
Disponible depuis
Connexes
Sources
Fiche examinée au 2026-01-15 — voir Méthodologie.