Scaling Laws for Neural Language Models (2020)
Kaplan et al.: loss falls as a power law in compute — the investment thesis, quantified.
Anda sedang melihat entri makalah penelitian: sebuah makalah penting dan apa yang diperkenalkannya ke bidang ini.
This OpenAI paper measured smooth power-law relationships between model performance and parameters, data and compute — the curves that turned 'bigger is better' from folklore into planning tool, and ultimately into capex justification for everything on this site.
Bagaimana ini terhubung ke bagian lain dari stack
Tautan catatan ini sekilas — klik grup untuk langsung menuju ke sana.
Diperkenalkan pada
Dasar untuk
Sumber
Rekaman ditinjau per 2026-01-15 — lihat Metodologi.