技术栈

rccl

bandaoyu
9 天前
nccl·rccl·nvshmem
【NVSHMEM】PCIe 距离类型(PIX,PXB,PHB,NOD,SYS)和判断PCIe 距离类型(从优到差):PATH_PIX (0): 相同设备,最优PATH_PXB (1): 通过 PCIe 交换机连接
跑步去兜风
1 年前
服务器·p2p·nccl·shm·rccl
RCCL/NCCL中的Transports方式选择:P2P or SHM or NET本篇文章主要总结以下在传输路径方式选择的时候,选择每一种方式应该满足的条件和优先度。本文初步总结,之后还会进行更新,欢迎大家补充
我是有底线的