Inference
Running the model — now the majority of AI compute and the focus of the buildout.
Vous consultez une fiche concept : ce que ce terme signifie en langage clair, et les fiches qu'il relie.
Inference is every ChatGPT answer, Copilot completion and API call — and as products scaled, it overtook training as the dominant AI workload. It splits into prefill (reading the prompt, compute-bound) and decode (generating tokens, memory-bandwidth-bound), which is why HBM decides serving economics, why engines like vLLM matter, and why hardware now specializes by phase (Rubin CPX). 'Tokens per dollar per watt' is the metric the whole industry is converging on.
Comment cela s'articule avec le reste de la chaîne
Les liens de cette fiche en un coup d'œil — cliquez sur un groupe pour y accéder directement.
Connexes
Sources
Fiche examinée au 2026-01-15 — voir Méthodologie.