Context Window
概念
主要技術仕様
The model's working memory — from 2K tokens to millions in five years.
これはコンセプト解説のレコードです。この用語をわかりやすく説明し、関連するレコードをまとめています。
The context window is how much a model can consider at once. GPT-3 held 2K tokens; Gemini holds a million; long-context serving is why the KV cache (the stored state for every token in context) dominates inference memory and why chips like Rubin CPX exist just for the 'prefill' of huge contexts. Long context competes with retrieval (RAG) as the way to give models knowledge.
スタック全体とのつながり
このレコードのリンク一覧 — グループをクリックするとジャンプします。
出典
レコードのレビュー時点： 2026-01-15 — 表示 調査手法.