roce

gwf2162 天前
性能测试·rdma·芯片测试·dpu·roce·智能网卡·perftest
RDMA子接口与VLAN性能测试摘要:本文深入剖析RDMA在多租户VLAN环境下的底层架构与GID映射机制,提供两套完整的实战测试矩阵,验证VLAN标签、MTU及QoS隔离对RoCEv2性能的影响。结合真实故障日志,详解PCP/DSCP协同配置及PFC风暴排查链路,为云原生RDMA网络提供权威测试指南。
gwf21611 天前
性能测试·rdma·芯片测试·dpu·roce·智能网卡·perftest
RC/UC/UD/XRC四种传输模式性能对比与实战选型摘要:本文深度剖析RDMA四大传输模式(RC/UC/UD/XRC)的底层机制与性能差异。通过DOCA perftest工具实测对比带宽、延迟及资源消耗,结合IBTA规范与大规模集群实战,给出AI训练、分布式存储及RPC场景的选型指南,助力工程师突破RDMA性能瓶颈。
gwf21613 天前
性能测试·rdma·芯片测试·dpu·roce·智能网卡·perftest
QP数量与并发深度对RDMA性能的影响:从单QP饱和到多路并行的极限压榨摘要:本文深入剖析RDMA性能测试中QP数量与并发深度对带宽及延迟的底层影响机制。结合IBTA规范与PCIe总线原理,揭示单QP饱和的物理边界,并通过自动化测试矩阵量化多QP并行增益。提供不同消息尺寸下的数据演变规律及主流DPU芯片的最优配置决策树,助力工程师突破网卡性能瓶颈。
gwf21614 天前
性能测试·rdma·芯片测试·dpu·roce·智能网卡·perftest
带宽与延迟测试的正确打开方式:参数全解摘要:本文深度解析perftest工具中带宽与延迟测试的核心参数(-s/-n/-N/-D/-a/-b),从RDMA底层协议与网卡微架构出发,剖析参数背后的物理意义。结合AI训练、高频交易等实战场景,提供高可靠的参数组合设计与避坑指南,助你精准定位RDMA网络性能瓶颈,榨干智能网卡极限性能。
gwf21615 天前
性能测试·rdma·dpu·roce·智能网卡·perftest·芯片测试。
RDMA性能测试实战(1):perftest工具原理与基线测试方法摘要:本文系统剖析RDMA性能基准测试工具perftest的技术架构、核心工具矩阵、Verbs级实现机制与标准测试流程,详细讲解ib_write_bw/ib_write_lat的参数体系、输出指标含义与环境配置要点,帮助测试工程师建立RDMA性能基线测试的标准化方法。
Eloudy19 天前
gpu·rdma·roce
OpenSM 管理 IB 网络简介 与 FabricManager 的设计思路问:如果IB 网络是 mellanox 网卡 + mellanox 交换机;那么,opensm可以管理这样的IB网络么?从哪里开始管理呢?流程原理是什么?
Eloudy20 天前
网络·gpu·rdma·roce
【无标题】InfiniBand 是一种基于交换机的点对点互连架构,专为当今的系统而开发,并具备扩展以满足下一代系统需求的能力。它既可在 PCB 上作为组件到组件的互连运行,也可作为"机箱外部"的机箱到机箱互连运行。每条独立的链路都基于四线 2.5 Gb/s 的双向连接。该架构定义了分层的硬件协议(物理层、链路层、网络层、传输层)以及用于管理设备间初始化和通信的软件层。每条链路可支持多种传输服务以实现可靠性,并支持多个优先级的虚拟通信通道。
Eloudy21 天前
rdma·roce
Debug Soft-RoCE (RXE) 完整流程推荐使用 Ubuntu 22.04 LTS,内核版本 5.15 或更高(Soft-RoCE 驱动自 Linux 4.8 起已合入内核)。普通以太网卡即可,无需专用 RDMA 硬件。建议内存至少 4GB。
Eloudy23 天前
gpu·rdma·roce
DOCA GPUNetIO 开源版(GDAKI)实现分析分析对象:./gpunetio/(NVIDIA DOCA GPUNetIO Open Source,v5.0.0) 定位:以 DOCA 风格 API 实现的 GPUDirect Async Kernel-Initiated(GDAKI) 通信库——让 CUDA kernel 直接发起 RDMA 通信(InfiniBand / RoCE),无需 CPU 介入数据面。 开源版范围:仅支持 RC(Reliable Connection)单边语义 的 GPU 数据面(put/signal/counter 等),双
Eloudy23 天前
网络·rdma·roce
MLNX_OFED 的 install.pl 安装流程分析分析对象:MLNX_OFED_SRC-24.10-5.1.6.1/install.pl(4250 行)+ common.pl(832 行公共函数库) 安装命令:sudo perl install.pl --all 说明:本文仅做静态分析,未实际执行安装。 下载地址
Eloudy23 天前
rdma·roce
RoCE UC Receive 实现代码结构与原理分析分析对象:MLNX_OFED 24.10-5.1.6.1 源码包(与 analysis-02 同源)UC 接收由两个互补动作组成:预投递接收缓冲(ibv_post_recv) 与 收割接收完成(ibv_poll_cq)。两者都在用户态完成,绕过内核。
Eloudy24 天前
网络·rdma·roce
RoCE 的 UC SEND/RECEIVE 的完整交互过程分析下面用左右两纵列画一个 UC SEND/RECEIVE 的完整交互图。 左列:发送方 Client/Sender;右列:接收方 Server/Receiver。 │ 中间箭头表示交互;带外 TCP 用于交换 QP 信息;RoCEv2 数据通道 用于真正的 SEND 报文。
Eloudy1 个月前
gpu·fpga·rdma·roce·doca
开源 gpunetio examples 01 解析 gpunetio_verbs_put_bw针对 https://github.com/NVIDIA-DOCA/gpunetio/tree/main/examples/gpunetio_verbs_put_bw/ 把服务器端和客户端,两端的核心逻辑分别提炼如下。
Eloudy1 个月前
gpu·fpga·rdma·roce·doca
GPUNetIO开源实现与FPGA的 RoCEv2 通信延迟实验对象:arXiv:2510.25213《Platform Architecture for Tight Coupling of High-Performance Computing with Quantum Processors》第 2.4 节 “Network proof of concept”。 本文先回答"这个实验在物理上和工程上证明了什么、为什么这样设计", 再把每条原理映射到本项目(nvqlink_echo_poc/)的具体实现。
Eloudy2 个月前
rdma·roce·doca
RDMA 乒乓示例:CX5 <-> CX6 DX(QSFP28 直连)两台服务器,一台插 ConnectX-5,一台插 ConnectX-6 DX,两块网卡用一根 QSFP28 线缆直连(不经过交换机)。两端通过 RDMA RC(RoCE v2) 互相收发数据:
Eloudy2 个月前
gpu·rdma·roce·doca
cpu rdma 与 gpunetio 的关系gpunetio, 是类似cpu app doca sender,receiver 过程的 gpu化,现在探究两者的联系。
Eloudy3 个月前
gpu·rdma·roce
ubuntu 22.04 -cuda12.8.2- holoscan-sdk-4.5-doca-ofed先安装 build-essential 再安装 gcc-12,因为 cuda12.8.2需要gcc-12 才能安装成功。
haimin03713 个月前
roce·dcqcn
DCQCN 拥塞控制算法原理和参数配置在现代数据中心网络中,RDMA over Converged Ethernet (RoCEv2) 已成为高性能分布式存储和 AI 训练集群的主流通信协议。RDMA 要求网络提供 无损传输能力,这对拥塞控制提出了严苛挑战。
业余程序员plus9 个月前
rdma·qp·infiniband·roce·wqe·cqe·iba
RDMA-InfiniBand总线架构简介(一)IBA(InfiniBand Architecture)定义了一种系统区域网络(System Area Network,SAN),用于连接多个独立的处理器平台(即主机处理器节点)、I/O平台及I/O设备。IBA SAN是一种通信与管理基础设施,可为一个或多个计算机系统同时支持I/O和处理器间通信(IPC)。一个IBA系统的规模可小至仅含单个处理器和少量I/O设备的小型服务器,也可大至包含数百个处理器和数千个I/O设备的大规模并行超级计算机集群。此外,IBA架构对IP协议很友好,使其能够桥接到互联网、内联网
杰克逊的日记1 年前
运维·服务器·网络·roce
什么是RoCE网络技术RoCE(RDMA over Converged Ethernet) 是一种基于以太网的远程直接内存访问(RDMA)技术,旨在通过标准以太网基础设施实现低延迟、高带宽的数据传输。它将 RDMA 的高效数据传输能力与以太网的兼容性结合,主要用于数据中心高性能计算(HPC)、云计算和大规模存储集群等场景。