SGLang
软件
推理
智能体
The high-performance serving runtime born from RadixAttention research.
您正在查看一条软件记录：AI 技术栈中的一款工具或平台——谁维护它、它运行在什么硬件上。
SGLang pairs a fast runtime (RadixAttention prefix caching, efficient structured output) with aggressive multi-GPU optimizations; DeepSeek's own team recommends it for serving V3/R1, and it trades benchmark wins with vLLM at the serving frontier.
它如何与整个技术栈相连
本记录的关联链接一览——点击分组可直接跳转。
竞品
来源
记录审阅截至 2026-01-15 — 查看 方法论.