Parameters
Концепция
Основные технические характеристики
The learned numbers — and why 'bigger' stopped being the whole story.
Перед вами запись-пояснение к понятию: что этот термин означает простыми словами и какие записи он объединяет.
Parameters are the weights a model learns; storing and moving them is what all the memory on this site is for (a 405B-parameter model needs ~800 GB at 16-bit). Counts climbed from GPT-2's 1.5B to trillion-parameter mixtures, but since Chinchilla the field optimizes parameters against data and compute jointly — and closed labs stopped disclosing counts at all, which is why so many records here say 'not publicly disclosed.'
Место в общей экосистеме
Ссылки этой записи с первого взгляда — нажмите на группу, чтобы перейти к ней.
Связанные
Источники
Запись актуальна на 2026-01-15 — смотреть Методология.