AWS Inferentia2
Amazon's inference chip — cheap tokens for production serving.
Sie sehen einen Chip-Eintrag: was dieser Prozessor ist, seine wichtigsten Spezifikationen, wer ihn entwirft, fertigt und mit Komponenten beliefert, und wo er eingesetzt wird.
Inferentia2 is the serving half of Annapurna Labs' silicon line: 32 GB of HBM per chip and a compiler stack (Neuron) that targets cost per inference rather than peak FLOPS. Inf2 instances gang up to 12 chips for large-model serving.
Spezifikationen & wichtige Fakten
Jede Angabe ist mit ihrer Grundlage gekennzeichnet: Herstellerspezifikation, Herstellerangabe, berichtet, Schätzung oder offiziell. „Nicht öffentlich bekannt" bedeutet genau das — wir erfinden keine Werte.
Overview
Arbeitsspeicher
Rechenleistung
Physical
So hängt das mit dem Rest des Stacks zusammen
Die Verknüpfungen dieses Datensatzes auf einen Blick – klicken Sie auf eine Gruppe, um dorthin zu springen.
Entwickelt von
Verfügbar ab
Verwandt
Quellen
Datensatz geprüft am 2026-01-15 — Siehe Methodik.