Megatron-Core
NVIDIA's reference recipe for trillion-parameter training.
U bekijkt een softwarerecord: een tool of platform in de AI-stack — wie het beheert en op welke hardware het draait.
Megatron pioneered tensor and pipeline parallelism for transformers; Megatron-Core packages those techniques as the library under NVIDIA's NeMo stack and many frontier training codebases — the canonical implementation of 3D parallelism on NVIDIA fabric.
Hoe dit aansluit op de rest van de stack
De koppelingen van dit record in één oogopslag — klik op een groep om er naartoe te springen.
Draait op
Onderhouden door
Gerelateerd
Bronnen
Record beoordeeld per 2026-01-15 — bekijk Methodologie.