Megatron-Core
NVIDIA's reference recipe for trillion-parameter training.
Estás viendo un registro de software: una herramienta o plataforma en el stack de IA, quién la mantiene y en qué hardware se ejecuta.
Megatron pioneered tensor and pipeline parallelism for transformers; Megatron-Core packages those techniques as the library under NVIDIA's NeMo stack and many frontier training codebases — the canonical implementation of 3D parallelism on NVIDIA fabric.
Cómo se conecta con el resto del stack
Los enlaces de esta ficha de un vistazo: haz clic en un grupo para ir directamente a él.
Se ejecuta en
Mantenido por
Relacionado
Fuentes
Registro revisado a fecha de 2026-01-15 — ver Metodología.