Parameters
Concept
Technique de base
The learned numbers — and why 'bigger' stopped being the whole story.
Vous consultez une fiche concept : ce que ce terme signifie en langage clair, et les fiches qu'il relie.
Parameters are the weights a model learns; storing and moving them is what all the memory on this site is for (a 405B-parameter model needs ~800 GB at 16-bit). Counts climbed from GPT-2's 1.5B to trillion-parameter mixtures, but since Chinchilla the field optimizes parameters against data and compute jointly — and closed labs stopped disclosing counts at all, which is why so many records here say 'not publicly disclosed.'
Comment cela s'articule avec le reste de la chaîne
Les liens de cette fiche en un coup d'œil — cliquez sur un groupe pour y accéder directement.
Connexes
Sources
Fiche examinée au 2026-01-15 — voir Méthodologie.