DeepSpeed
Microsoft's scaling toolkit — ZeRO sharding made huge models trainable.
Estás viendo un registro de software: una herramienta o plataforma en el stack de IA, quién la mantiene y en qué hardware se ejecuta.
DeepSpeed's ZeRO optimizer sharding let models far larger than one GPU's memory train efficiently, powering the Megatron-Turing era and countless open efforts since. Its ideas (now echoed by PyTorch FSDP) defined how the industry splits models across thousands of devices.
Cómo se conecta con el resto del stack
Los enlaces de esta ficha de un vistazo: haz clic en un grupo para ir directamente a él.
Mantenido por
Relacionado
Fuentes
Registro revisado a fecha de 2026-01-15 — ver Metodología.