安装与验证
https://developer.nvidia.com/nccl
安装后将 NCCL 的库路径添加到 LD_LIBRARY_PATH(Linux)中。
安装验证
:
c
python -c "import torch; print(torch.distributed.is_nccl_available())"
如果输出为 True,则说明 NCCL 已成功安装并与 PyTorch 集成。