NCCL
The collective-communications library every distributed training run calls.
Stai visualizzando un record software: uno strumento o una piattaforma nello stack AI — chi lo mantiene e su quale hardware gira.
NCCL implements the all-reduce, all-gather and broadcast operations that synchronize gradients across thousands of GPUs, tuned to NVLink and InfiniBand topologies. When people say a cluster 'scales well', they are mostly praising NCCL; AMD's RCCL mirrors it.
Come si collega al resto dello stack
I collegamenti di questa scheda a colpo d'occhio — clicca un gruppo per raggiungerlo.
Mantenuto da
Correlati
Fonti
Record revisionato al 2026-01-15 — vedi Metodologia.