Trang chủ › Bài báo nghiên cứu › Scaling Laws for Neural Language Models (2020)
Scaling Laws for Neural Language Models (2020)
Bài báo nghiên cứu
Mở rộng quy mô
Kaplan et al.: loss falls as a power law in compute — the investment thesis, quantified.
Bạn đang xem hồ sơ bài báo nghiên cứu: một bài báo có tầm ảnh hưởng lớn và những đóng góp mà nó mang lại cho lĩnh vực.
This OpenAI paper measured smooth power-law relationships between model performance and parameters, data and compute — the curves that turned 'bigger is better' from folklore into planning tool, and ultimately into capex justification for everything on this site.
Kết nối của mục này với phần còn lại của hệ thống
Các liên kết của hồ sơ này trong nháy mắt — nhấp vào một nhóm để chuyển đến nhóm đó.
Giới thiệu vào
Cơ sở cho
Nguồn
Hồ sơ được xem xét tính đến 2026-01-15 — xem Phương pháp luận.