NCCL
The collective-communications library every distributed training run calls.
Перед вами запись о программном обеспечении — инструменте или платформе в AI-стеке: кто её поддерживает и на каком оборудовании она работает.
NCCL implements the all-reduce, all-gather and broadcast operations that synchronize gradients across thousands of GPUs, tuned to NVLink and InfiniBand topologies. When people say a cluster 'scales well', they are mostly praising NCCL; AMD's RCCL mirrors it.
Место в общей экосистеме
Ссылки этой записи с первого взгляда — нажмите на группу, чтобы перейти к ней.
Поддерживается
Связанные
Источники
Запись актуальна на 2026-01-15 — смотреть Методология.