AWS Inferentia2
Amazon's inference chip — cheap tokens for production serving.
Stai visualizzando un record di chip: cos'è questo processore, le sue specifiche principali, chi lo progetta, lo produce e ne fornisce i componenti, e dove viene utilizzato.
Inferentia2 is the serving half of Annapurna Labs' silicon line: 32 GB of HBM per chip and a compiler stack (Neuron) that targets cost per inference rather than peak FLOPS. Inf2 instances gang up to 12 chips for large-model serving.
Specifiche e dati principali
Ogni dato è etichettato in base alla fonte: specifiche del produttore, dichiarazione del produttore, riportato, stima o ufficiale. "Non divulgato pubblicamente" significa esattamente questo — non inventiamo mai valori.
Overview
Memoria
Calcolo
Physical
Come si collega al resto dello stack
I collegamenti di questa scheda a colpo d'occhio — clicca un gruppo per raggiungerlo.
Progettato da
Disponibile da
Correlati
Fonti
Record revisionato al 2026-01-15 — vedi Metodologia.