NCCL
The collective-communications library every distributed training run calls.
Bạn đang xem hồ sơ phần mềm: một công cụ hoặc nền tảng trong hệ sinh thái AI — ai duy trì và nó chạy trên phần cứng nào.
NCCL implements the all-reduce, all-gather and broadcast operations that synchronize gradients across thousands of GPUs, tuned to NVLink and InfiniBand topologies. When people say a cluster 'scales well', they are mostly praising NCCL; AMD's RCCL mirrors it.
Kết nối của mục này với phần còn lại của hệ thống
Các liên kết của hồ sơ này trong nháy mắt — nhấp vào một nhóm để chuyển đến nhóm đó.
Được duy trì bởi
Liên quan
Nguồn
Hồ sơ được xem xét tính đến 2026-01-15 — xem Phương pháp luận.