vLLM
ソフトウェア
推論
エージェント
The open-source serving engine that made GPU inference efficient.
これはソフトウェアのレコードです。AIスタックを構成するツールまたはプラットフォームについて、開発・保守を担う主体と対応ハードウェアを紹介します。
vLLM's PagedAttention treats the KV cache like virtual memory, ending the fragmentation that wasted most inference GPU memory and multiplying throughput. Born at UC Berkeley in 2023, it became the default open serving engine across clouds and enterprises, with hardware vendors (NVIDIA, AMD, AWS, Google) all contributing backends.
スタック全体とのつながり
このレコードのリンク一覧 — グループをクリックするとジャンプします。
出典
レコードのレビュー時点： 2026-01-15 — 表示 調査手法.