Megatron-Core
NVIDIA's reference recipe for trillion-parameter training.
Bạn đang xem hồ sơ phần mềm: một công cụ hoặc nền tảng trong hệ sinh thái AI — ai duy trì và nó chạy trên phần cứng nào.
Megatron pioneered tensor and pipeline parallelism for transformers; Megatron-Core packages those techniques as the library under NVIDIA's NeMo stack and many frontier training codebases — the canonical implementation of 3D parallelism on NVIDIA fabric.
Kết nối của mục này với phần còn lại của hệ thống
Các liên kết của hồ sơ này trong nháy mắt — nhấp vào một nhóm để chuyển đến nhóm đó.
Chạy trên
Được duy trì bởi
Liên quan
Nguồn
Hồ sơ được xem xét tính đến 2026-01-15 — xem Phương pháp luận.