技术栈
gpudirect
gwf216
2 天前
linux内核
·
rdma
·
网卡驱动
·
mlx5
·
gpudirect
·
ib_core
·
内核架构
内核RDMA子系统(ib_core)架构与核心数据结构:从驱动视角解构数据通路
摘要:本文深度解析Linux内核RDMA子系统(ib_core)架构,聚焦ib_device/ib_pd/ib_cq等核心数据结构的生命周期与内存布局。结合mlx5/irdma/bnxt_re驱动实现,剖析数据通路Fast/Slow Path设计、多厂商差异化处理及GPUDirect RDMA内存注册瓶颈。提供从内核源码级调试到生产环境调优的实战指南,旨在为资深RDMA工程师提供内核态排障与性能优化的系统性参考。
gwf216
15 天前
芯片设计
·
rdma
·
nccl
·
拥塞控制
·
ai集群
·
rnic
·
gpudirect
AI训练RDMA性能Profiling:瓶颈定位与调优方法论
摘要:本文聚焦AI集群RDMA性能Profiling,从芯片RTL与寄存器级深度剖析RNIC数据流、拥塞控制与GPUDirect通路。结合NCCL硬件加速与多平面拓扑,提供万卡集群尾延迟瓶颈定位、硬件级调优及故障排查的实战方法论,为资深网络芯片与架构工程师提供硅片级的性能优化指南。
gwf216
18 天前
rdma
·
nccl
·
硬件加速
·
rocev2
·
dcqcn
·
gpudirect
·
ai集群网络
RDMA在联邦学习与跨DC训练中的应用:从协议栈到芯片微架构的深度解析
摘要:本文从芯片微架构到跨DC联邦学习,深度剖析RDMA在AI集群中的硬件实现。涵盖RNIC RTL数据流、GPUDirect零拷贝通路、NCCL集合通信硬件加速及DCQCN拥塞控制状态机。提供寄存器级配置、ns级时序量化与故障排查指南,为资深网络芯片工程师提供AI Infra底层优化参考。
gwf216
20 天前
rdma
·
拥塞控制
·
dpu
·
ai集群
·
gpudirect
·
rail-optimized
·
自适应路由
AI RDMA流量工程:自适应路由与动态负载均衡 —— 架构篇:从芯片RTL到集群拓扑的算网协同设计
📑 目录摘要:本文从芯片RTL与协议栈底层视角,深度剖析AI集群RDMA流量工程。涵盖Rail-Optimized拓扑、自适应路由硬件实现、RNIC流水线时序及拥塞控制状态机,为资深工程师提供算网协同的芯片级实战指南。
gwf216
23 天前
芯片设计
·
rdma
·
rnic
·
gpudirect
·
pciegen6
·
dma引擎
·
mrc协议
800G RNIC芯片设计挑战:PCIe Gen6与DMA引擎架构 —— 面向AI超大规模集群的硬件实现深度解析
📑 目录摘要:本文深度剖析800G RNIC芯片架构,从RTL数据流、PCIe Gen6 DMA引擎到MRC协议硬件卸载,量化解析AI集群中的纳秒级延迟与拥塞控制,为RDMA芯片工程师提供设计验证级参考。
gwf216
24 天前
芯片设计
·
rdma
·
nccl
·
ai集群
·
gpudirect
·
多租户隔离
·
sr-iov
AI多租户集群的RDMA隔离:PD/MR/ACL硬件实现 —— 面向大模型训练/推理的硅级安全架构
一、前言/AI场景背景 二、核心原理与协议深度 三、硬件架构深度剖析 四、AI通信的硬件加速实现 五、实战部署与深度配置 六、性能深度分析与基准测试 七、典型故障深度排查 八、总结与设计trade-off 参考资料
gwf216
25 天前
rdma
·
nvlink
·
nccl
·
dpu
·
rocev2
·
aiinfra
·
gpudirect
NVLink与RDMA融合:Scale-Up/Scale-Out统一互联架构深度解析
摘要:本文深度解构NVLink与RDMA在AI集群中的融合架构。从芯片RTL级剖析Scale-Up/Out统一互联的数据通路、寄存器定义与流水线时序,探讨MoE/LLM场景下的集合通信硬件加速、拥塞控制状态机及GPUDirect零拷贝路径,为资深网络芯片工程师提供设计验证与部署调优的硬核指南。
gwf216
1 个月前
rdma
·
infiniband
·
nccl
·
ai集群
·
rnic
·
gpudirect
·
railoptimized
Rail-Optimized拓扑:AI训练集群的RDMA拥塞消除与硬件实现深度解析
摘要:本文从芯片RTL与协议栈底层视角,深度剖析Rail-Optimized拓扑在AI集群中消除RDMA拥塞的机制。涵盖RNIC硬件架构、流水线时序、NCCL硬件加速及实战调优。
gwf216
1 个月前
rdma
·
mrc
·
ai网络
·
gpudirect
·
thorultra
·
eroce
·
broadcom
Broadcom Thor Ultra Ethernet NIC:AI专用网络芯片架构深度解析
摘要:本文深度剖析Broadcom Thor Ultra 800G NIC的芯片架构与eRoCE/MRC硬件实现。从RTL数据流、寄存器配置到GPUDirect RDMA与拥塞控制状态机,全面拆解其在超大规模AI集群中的低延迟、多路径与乱序重组机制,为RDMA芯片工程师提供设计验证级的参考。
gwf216
1 个月前
rdma
·
硬件加速
·
dpu
·
kvcache
·
ai集群
·
gpudirect
·
bluefield4
NVIDIA BlueField-3/4 DPU在AI集群的RDMA卸载与增强:芯片设计验证级深度剖析
摘要:本文深度剖析NVIDIA BlueField-3/4 DPU在AI集群中的RDMA卸载与硬件加速机制。从RTL级数据通路、寄存器定义到KV Cache卸载与NCCL集合通信的硬件映射,全面拆解DPU如何突破内存墙与通信墙,为资深芯片与网络架构工程师提供芯片设计验证级的实战指南。
SLD_Allen
1 个月前
ceph
·
rdma
·
gpudirect
Ceph配置RDMA和GPUDirect支持的具体技术方案
RDMA 在 Ceph 中的核心价值是让数据绕开 CPU 和内核协议栈,直接从网卡 DMA 到内存。但要真正跑起来,需要从硬件、驱动、系统到 Ceph 配置层层打通。
gwf216
1 个月前
ai训练
·
rdma
·
网络架构
·
拥塞控制
·
dcqcn
·
gpudirect
·
hpcc
AI训练RDMA拥塞控制:DCQCN/TIMELY/HPCC/Swift —— 芯片级深度剖析与硬件实现
📑 目录 一、前言/AI场景背景 二、核心原理与硬件架构 三、硬件实现深度剖析 四、AI通信的RTL与寄存器级实现 五、实战部署与配置 六、性能分析与尾延迟评测 七、常见问题排查 八、总结与最佳实践 参考资料
gwf216
1 个月前
rdma
·
nccl
·
scaleout
·
rocev2
·
ai集群
·
rnic
·
gpudirect
AI集群RDMA网络架构总览:从Scale-Out到多平面
摘要:本文深度剖析AI集群RDMA网络架构,从Scale-Out拓扑演进至多平面组网。结合芯片级硬件实现,探讨RNIC寄存器、RTL数据流及GPUDirect RDMA通路,为万卡集群的高吞吐、低尾延迟网络建设提供实战指南。
我是有底线的