Scaling Laws for Neural Language Models (2020)
Kaplan et al.: loss falls as a power law in compute — the investment thesis, quantified.
Vous consultez une fiche article de recherche : un article de référence et ce qu'il a apporté au domaine.
This OpenAI paper measured smooth power-law relationships between model performance and parameters, data and compute — the curves that turned 'bigger is better' from folklore into planning tool, and ultimately into capex justification for everything on this site.
Comment cela s'articule avec le reste de la chaîne
Les liens de cette fiche en un coup d'œil — cliquez sur un groupe pour y accéder directement.
Introduit en
Base pour
Sources
Fiche examinée au 2026-01-15 — voir Méthodologie.