技术栈
nvlink
gwf216
10 天前
rdma
·
nvlink
·
nccl
·
dpu
·
rocev2
·
aiinfra
·
gpudirect
NVLink与RDMA融合：Scale-Up/Scale-Out统一互联架构深度解析
摘要：本文深度解构NVLink与RDMA在AI集群中的融合架构。从芯片RTL级剖析Scale-Up/Out统一互联的数据通路、寄存器定义与流水线时序，探讨MoE/LLM场景下的集合通信硬件加速、拥塞控制状态机及GPUDirect零拷贝路径，为资深网络芯片工程师提供设计验证与部署调优的硬核指南。
七宝大爷
10 个月前
架构
·
nvlink
·
sli
多GPU并行计算互联架构解析：NVLink的诞生与SLI CrossFire的落幕
在现代计算领域，尤其是高性能计算、人工智能训练和图形渲染等应用场景中，单颗GPU的处理能力往往无法满足日益增长的计算需求。多GPU互联技术应运而生，通过将多个GPU连接在一起协同工作，显著提升了整体计算性能。本文将深入探讨两种主流的多GPU互联技术：NVIDIA的NVLink和传统的SLI/CrossFire技术，分析它们的架构特点、性能表现及应用场景。
Eloudy
2 年前
nvlink
·
nccl
NCCL 中的一些辅助debug 知识点
ncclLaunchKernel cuLaunchKernelExncclStrongStreamLaunchKernel cudaLaunchKernel
又拍云
3 年前
ai
·
nvlink
深入了解 GPU 互联技术——NVLINK
随着人工智能和图形处理需求的不断增长，多 GPU 并行计算已成为一种趋势。对于多 GPU 系统而言，一个关键的挑战是如何实现 GPU 之间的高速数据传输和协同工作。然而，传统的 PCIe 总线由于带宽限制和延迟问题，已无法满足 GPU 之间通信的需求。为了解决这个问题，NVIDIA 于 2018 年推出了 NVLINK，以提高 GPU 之间的通信效率。
我是有底线的