NCCL
The collective-communications library every distributed training run calls.
Vous consultez une fiche logiciel : un outil ou une plateforme dans la chaîne de l'IA — qui le maintient et sur quel matériel il fonctionne.
NCCL implements the all-reduce, all-gather and broadcast operations that synchronize gradients across thousands of GPUs, tuned to NVLink and InfiniBand topologies. When people say a cluster 'scales well', they are mostly praising NCCL; AMD's RCCL mirrors it.
Comment cela s'articule avec le reste de la chaîne
Les liens de cette fiche en un coup d'œil — cliquez sur un groupe pour y accéder directement.
Maintenu par
Connexes
Sources
Fiche examinée au 2026-01-15 — voir Méthodologie.