AWS Inferentia2
Amazon's inference chip — cheap tokens for production serving.
Bir çip kaydına bakıyorsunuz: bu işlemcinin ne olduğu, temel özellikleri, kimin tasarladığı, kimin ürettiği, parçalarını kimin tedarik ettiği ve nerede kullanıldığı.
Inferentia2 is the serving half of Annapurna Labs' silicon line: 32 GB of HBM per chip and a compiler stack (Neuron) that targets cost per inference rather than peak FLOPS. Inf2 instances gang up to 12 chips for large-model serving.
Teknik özellikler ve temel bilgiler
Her değer kaynağına göre etiketlenmiştir: satıcı spesifikasyonu, satıcı iddiası, raporlanan, tahmin veya resmi. "Kamuoyuyla paylaşılmamış" ifadesi tam olarak bunu ifade eder — değer uydurmayız.
Overview
Bellek
Hesaplama
Physical
Bu, yığının geri kalanıyla nasıl bağlantılı?
Bu kaydın bağlantılarına hızlı bakış — bir gruba tıklayarak o bölüme atlayın.
Tasarımcı
Şuradan temin edilebilir
İlgili
Kaynaklar
İncelenen kayıt tarihi: 2026-01-15 — görüntüle Metodoloji.