Tokens & Tokenization
Concept
Technique de base
The unit AI is bought, sold and measured in.
Vous consultez une fiche concept : ce que ce terme signifie en langage clair, et les fiches qu'il relie.
Models read and write tokens — word fragments, roughly ¾ of an English word each. Context windows, API prices, throughput benchmarks and 'tokens per second' hardware claims all count them. When executives describe data centers as 'token factories,' this is the commodity they mean: the entire economics of inference reduces to the cost of producing a token.
Comment cela s'articule avec le reste de la chaîne
Les liens de cette fiche en un coup d'œil — cliquez sur un groupe pour y accéder directement.
Connexes
Sources
Fiche examinée au 2026-01-15 — voir Méthodologie.