Context Window
Concept
Technique de base
The model's working memory — from 2K tokens to millions in five years.
Vous consultez une fiche concept : ce que ce terme signifie en langage clair, et les fiches qu'il relie.
The context window is how much a model can consider at once. GPT-3 held 2K tokens; Gemini holds a million; long-context serving is why the KV cache (the stored state for every token in context) dominates inference memory and why chips like Rubin CPX exist just for the 'prefill' of huge contexts. Long context competes with retrieval (RAG) as the way to give models knowledge.
Comment cela s'articule avec le reste de la chaîne
Les liens de cette fiche en un coup d'œil — cliquez sur un groupe pour y accéder directement.
Sources
Fiche examinée au 2026-01-15 — voir Méthodologie.