Context Window
Kavram
Temel Teknik
The model's working memory — from 2K tokens to millions in five years.
Bir kavram açıklayıcısına bakıyorsunuz: bu terimin sade bir dilde ne anlama geldiği ve bir araya getirdiği kayıtlar.
The context window is how much a model can consider at once. GPT-3 held 2K tokens; Gemini holds a million; long-context serving is why the KV cache (the stored state for every token in context) dominates inference memory and why chips like Rubin CPX exist just for the 'prefill' of huge contexts. Long context competes with retrieval (RAG) as the way to give models knowledge.
Bu, yığının geri kalanıyla nasıl bağlantılı?
Bu kaydın bağlantılarına hızlı bakış — bir gruba tıklayarak o bölüme atlayın.
Kaynaklar
İncelenen kayıt tarihi: 2026-01-15 — görüntüle Metodoloji.