技术栈
rccl
bandaoyu
9 天前
nccl
·
rccl
·
nvshmem
【NVSHMEM】PCIe 距离类型(PIX,PXB,PHB,NOD,SYS)和判断
PCIe 距离类型(从优到差):PATH_PIX (0): 相同设备,最优PATH_PXB (1): 通过 PCIe 交换机连接
跑步去兜风
1 年前
服务器
·
p2p
·
nccl
·
shm
·
rccl
RCCL/NCCL中的Transports方式选择:P2P or SHM or NET
本篇文章主要总结以下在传输路径方式选择的时候,选择每一种方式应该满足的条件和优先度。本文初步总结,之后还会进行更新,欢迎大家补充
我是有底线的