DeepSpeed
Microsoft's scaling toolkit — ZeRO sharding made huge models trainable.
Sie sehen einen Software-Eintrag: ein Tool oder eine Plattform im KI-Stack — wer sie pflegt und auf welcher Hardware sie läuft.
DeepSpeed's ZeRO optimizer sharding let models far larger than one GPU's memory train efficiently, powering the Megatron-Turing era and countless open efforts since. Its ideas (now echoed by PyTorch FSDP) defined how the industry splits models across thousands of devices.
So hängt das mit dem Rest des Stacks zusammen
Die Verknüpfungen dieses Datensatzes auf einen Blick – klicken Sie auf eine Gruppe, um dorthin zu springen.
Gepflegt von
Verwandt
Quellen
Datensatz geprüft am 2026-01-15 — Siehe Methodik.