Scaling Laws for Neural Language Models (2020)
Kaplan et al.: loss falls as a power law in compute — the investment thesis, quantified.
U bekijkt een onderzoeksartikelrecord: een invloedrijk artikel en wat het aan het vakgebied heeft toegevoegd.
This OpenAI paper measured smooth power-law relationships between model performance and parameters, data and compute — the curves that turned 'bigger is better' from folklore into planning tool, and ultimately into capex justification for everything on this site.
Hoe dit aansluit op de rest van de stack
De koppelingen van dit record in één oogopslag — klik op een groep om er naartoe te springen.
Geïntroduceerd in
Basis voor
Bronnen
Record beoordeeld per 2026-01-15 — bekijk Methodologie.