AWS Inferentia2
Amazon's inference chip — cheap tokens for production serving.
Estás viendo un registro de chip: qué es este procesador, sus especificaciones clave, quién diseña, fabrica y suministra sus componentes, y dónde se utiliza.
Inferentia2 is the serving half of Annapurna Labs' silicon line: 32 GB of HBM per chip and a compiler stack (Neuron) that targets cost per inference rather than peak FLOPS. Inf2 instances gang up to 12 chips for large-model serving.
Especificaciones y datos clave
Cada cifra está etiquetada según su base: especificación del fabricante, declaración del fabricante, dato publicado, estimación u oficial. "No divulgado públicamente" significa exactamente eso — nunca inventamos valores.
Overview
Memoria
Cómputo
Physical
Cómo se conecta con el resto del stack
Los enlaces de esta ficha de un vistazo: haz clic en un grupo para ir directamente a él.
Diseñado por
Disponible desde
Relacionado
Fuentes
Registro revisado a fecha de 2026-01-15 — ver Metodología.