Megatron-Core
Software
Addestramento
Attivo
NVIDIA's reference recipe for trillion-parameter training.
Stai visualizzando un record software: uno strumento o una piattaforma nello stack AI — chi lo mantiene e su quale hardware gira.
Megatron pioneered tensor and pipeline parallelism for transformers; Megatron-Core packages those techniques as the library under NVIDIA's NeMo stack and many frontier training codebases — the canonical implementation of 3D parallelism on NVIDIA fabric.
Come si collega al resto dello stack
I collegamenti di questa scheda a colpo d'occhio — clicca un gruppo per raggiungerlo.
Funziona su
Mantenuto da
Correlati
Fonti
Record revisionato al 2026-01-15 — vedi Metodologia.