Megatron-Core
Logiciels
Entraînement
Actif
NVIDIA's reference recipe for trillion-parameter training.
Vous consultez une fiche logiciel : un outil ou une plateforme dans la chaîne de l'IA — qui le maintient et sur quel matériel il fonctionne.
Megatron pioneered tensor and pipeline parallelism for transformers; Megatron-Core packages those techniques as the library under NVIDIA's NeMo stack and many frontier training codebases — the canonical implementation of 3D parallelism on NVIDIA fabric.
Comment cela s'articule avec le reste de la chaîne
Les liens de cette fiche en un coup d'œil — cliquez sur un groupe pour y accéder directement.
Fonctionne sur
Maintenu par
Connexes
Sources
Fiche examinée au 2026-01-15 — voir Méthodologie.