DeepSpeed
Software
Treinamento
Ativo
Microsoft's scaling toolkit — ZeRO sharding made huge models trainable.
Está a ver um registo de software: uma ferramenta ou plataforma na stack de IA — quem a mantém e em que hardware corre.
DeepSpeed's ZeRO optimizer sharding let models far larger than one GPU's memory train efficiently, powering the Megatron-Turing era and countless open efforts since. Its ideas (now echoed by PyTorch FSDP) defined how the industry splits models across thousands of devices.
Como este elemento se liga ao resto da stack
As ligações deste registo num relance — clique num grupo para ir diretamente até ele.
Mantido por
Relacionados
Fontes
Registro revisado em 2026-01-15 — ver Metodologia.