NCCL
软件
计算平台
智能体
The collective-communications library every distributed training run calls.
您正在查看一条软件记录:AI 技术栈中的一款工具或平台——谁维护它、它运行在什么硬件上。
NCCL implements the all-reduce, all-gather and broadcast operations that synchronize gradients across thousands of GPUs, tuned to NVLink and InfiniBand topologies. When people say a cluster 'scales well', they are mostly praising NCCL; AMD's RCCL mirrors it.
它如何与整个技术栈相连
本记录的关联链接一览——点击分组可直接跳转。
维护方
来源
记录审阅截至 2026-01-15 — 查看 方法论.