SGLang
Logiciels
Inférence
Actif
The high-performance serving runtime born from RadixAttention research.
Vous consultez une fiche logiciel : un outil ou une plateforme dans la chaîne de l'IA — qui le maintient et sur quel matériel il fonctionne.
SGLang pairs a fast runtime (RadixAttention prefix caching, efficient structured output) with aggressive multi-GPU optimizations; DeepSeek's own team recommends it for serving V3/R1, and it trades benchmark wins with vLLM at the serving frontier.
Comment cela s'articule avec le reste de la chaîne
Les liens de cette fiche en un coup d'œil — cliquez sur un groupe pour y accéder directement.
En concurrence avec
Connexes
Sources
Fiche examinée au 2026-01-15 — voir Méthodologie.