Scaling Laws for Neural Language Models (2020)
Kaplan et al.: loss falls as a power law in compute — the investment thesis, quantified.
Перед вами запись об исследовательской статье — знаковой работе и том, что она привнесла в область.
This OpenAI paper measured smooth power-law relationships between model performance and parameters, data and compute — the curves that turned 'bigger is better' from folklore into planning tool, and ultimately into capex justification for everything on this site.
Место в общей экосистеме
Ссылки этой записи с первого взгляда — нажмите на группу, чтобы перейти к ней.
Представлено в
Основа для
Источники
Запись актуальна на 2026-01-15 — смотреть Методология.