Context Window
Concept
Technische kerngegevens
The model's working memory — from 2K tokens to millions in five years.
U bekijkt een conceptverklaring: wat deze term in begrijpelijk Nederlands betekent, en de records die hij samenbrengt.
The context window is how much a model can consider at once. GPT-3 held 2K tokens; Gemini holds a million; long-context serving is why the KV cache (the stored state for every token in context) dominates inference memory and why chips like Rubin CPX exist just for the 'prefill' of huge contexts. Long context competes with retrieval (RAG) as the way to give models knowledge.
Hoe dit aansluit op de rest van de stack
De koppelingen van dit record in één oogopslag — klik op een groep om er naartoe te springen.
Bronnen
Record beoordeeld per 2026-01-15 — bekijk Methodologie.