Inference
Running the model — now the majority of AI compute and the focus of the buildout.
Sie sehen einen Begriffserklärung-Eintrag: was dieser Term auf verständlichem Deutsch bedeutet, und die Einträge, die er verbindet.
Inference is every ChatGPT answer, Copilot completion and API call — and as products scaled, it overtook training as the dominant AI workload. It splits into prefill (reading the prompt, compute-bound) and decode (generating tokens, memory-bandwidth-bound), which is why HBM decides serving economics, why engines like vLLM matter, and why hardware now specializes by phase (Rubin CPX). 'Tokens per dollar per watt' is the metric the whole industry is converging on.
So hängt das mit dem Rest des Stacks zusammen
Die Verknüpfungen dieses Datensatzes auf einen Blick – klicken Sie auf eine Gruppe, um dorthin zu springen.
Verwandt
Quellen
Datensatz geprüft am 2026-01-15 — Siehe Methodik.