Trang chủ › Các khái niệm › Context Window
Context Window
Khái niệm
Kỹ thuật cốt lõi
The model's working memory — from 2K tokens to millions in five years.
Bạn đang xem hồ sơ giải thích khái niệm: thuật ngữ này có nghĩa là gì theo ngôn ngữ thông thường, và các hồ sơ liên quan đến nó.
The context window is how much a model can consider at once. GPT-3 held 2K tokens; Gemini holds a million; long-context serving is why the KV cache (the stored state for every token in context) dominates inference memory and why chips like Rubin CPX exist just for the 'prefill' of huge contexts. Long context competes with retrieval (RAG) as the way to give models knowledge.
Kết nối của mục này với phần còn lại của hệ thống
Các liên kết của hồ sơ này trong nháy mắt — nhấp vào một nhóm để chuyển đến nhóm đó.
Nguồn
Hồ sơ được xem xét tính đến 2026-01-15 — xem Phương pháp luận.