Context Window
Concepto
Técnico principal
The model's working memory — from 2K tokens to millions in five years.
Estás viendo un explicador de concepto: qué significa este término en lenguaje claro, y los registros que conecta.
The context window is how much a model can consider at once. GPT-3 held 2K tokens; Gemini holds a million; long-context serving is why the KV cache (the stored state for every token in context) dominates inference memory and why chips like Rubin CPX exist just for the 'prefill' of huge contexts. Long context competes with retrieval (RAG) as the way to give models knowledge.
Cómo se conecta con el resto del stack
Los enlaces de esta ficha de un vistazo: haz clic en un grupo para ir directamente a él.
Fuentes
Registro revisado a fecha de 2026-01-15 — ver Metodología.