技术栈
gpudirect
gwf216
2 天前
芯片设计
·
rdma
·
rnic
·
gpudirect
·
pciegen6
·
dma引擎
·
mrc协议
800G RNIC芯片设计挑战:PCIe Gen6与DMA引擎架构 —— 面向AI超大规模集群的硬件实现深度解析
📑 目录摘要:本文深度剖析800G RNIC芯片架构,从RTL数据流、PCIe Gen6 DMA引擎到MRC协议硬件卸载,量化解析AI集群中的纳秒级延迟与拥塞控制,为RDMA芯片工程师提供设计验证级参考。
gwf216
3 天前
芯片设计
·
rdma
·
nccl
·
ai集群
·
gpudirect
·
多租户隔离
·
sr-iov
AI多租户集群的RDMA隔离:PD/MR/ACL硬件实现 —— 面向大模型训练/推理的硅级安全架构
一、前言/AI场景背景 二、核心原理与协议深度 三、硬件架构深度剖析 四、AI通信的硬件加速实现 五、实战部署与深度配置 六、性能深度分析与基准测试 七、典型故障深度排查 八、总结与设计trade-off 参考资料
gwf216
4 天前
rdma
·
nvlink
·
nccl
·
dpu
·
rocev2
·
aiinfra
·
gpudirect
NVLink与RDMA融合:Scale-Up/Scale-Out统一互联架构深度解析
摘要:本文深度解构NVLink与RDMA在AI集群中的融合架构。从芯片RTL级剖析Scale-Up/Out统一互联的数据通路、寄存器定义与流水线时序,探讨MoE/LLM场景下的集合通信硬件加速、拥塞控制状态机及GPUDirect零拷贝路径,为资深网络芯片工程师提供设计验证与部署调优的硬核指南。
gwf216
8 天前
rdma
·
infiniband
·
nccl
·
ai集群
·
rnic
·
gpudirect
·
railoptimized
Rail-Optimized拓扑:AI训练集群的RDMA拥塞消除与硬件实现深度解析
摘要:本文从芯片RTL与协议栈底层视角,深度剖析Rail-Optimized拓扑在AI集群中消除RDMA拥塞的机制。涵盖RNIC硬件架构、流水线时序、NCCL硬件加速及实战调优。
gwf216
10 天前
rdma
·
mrc
·
ai网络
·
gpudirect
·
thorultra
·
eroce
·
broadcom
Broadcom Thor Ultra Ethernet NIC:AI专用网络芯片架构深度解析
摘要:本文深度剖析Broadcom Thor Ultra 800G NIC的芯片架构与eRoCE/MRC硬件实现。从RTL数据流、寄存器配置到GPUDirect RDMA与拥塞控制状态机,全面拆解其在超大规模AI集群中的低延迟、多路径与乱序重组机制,为RDMA芯片工程师提供设计验证级的参考。
gwf216
11 天前
rdma
·
硬件加速
·
dpu
·
kvcache
·
ai集群
·
gpudirect
·
bluefield4
NVIDIA BlueField-3/4 DPU在AI集群的RDMA卸载与增强:芯片设计验证级深度剖析
摘要:本文深度剖析NVIDIA BlueField-3/4 DPU在AI集群中的RDMA卸载与硬件加速机制。从RTL级数据通路、寄存器定义到KV Cache卸载与NCCL集合通信的硬件映射,全面拆解DPU如何突破内存墙与通信墙,为资深芯片与网络架构工程师提供芯片设计验证级的实战指南。
SLD_Allen
12 天前
ceph
·
rdma
·
gpudirect
Ceph配置RDMA和GPUDirect支持的具体技术方案
RDMA 在 Ceph 中的核心价值是让数据绕开 CPU 和内核协议栈,直接从网卡 DMA 到内存。但要真正跑起来,需要从硬件、驱动、系统到 Ceph 配置层层打通。
gwf216
17 天前
ai训练
·
rdma
·
网络架构
·
拥塞控制
·
dcqcn
·
gpudirect
·
hpcc
AI训练RDMA拥塞控制:DCQCN/TIMELY/HPCC/Swift —— 芯片级深度剖析与硬件实现
📑 目录 一、前言/AI场景背景 二、核心原理与硬件架构 三、硬件实现深度剖析 四、AI通信的RTL与寄存器级实现 五、实战部署与配置 六、性能分析与尾延迟评测 七、常见问题排查 八、总结与最佳实践 参考资料
gwf216
21 天前
rdma
·
nccl
·
scaleout
·
rocev2
·
ai集群
·
rnic
·
gpudirect
AI集群RDMA网络架构总览:从Scale-Out到多平面
摘要:本文深度剖析AI集群RDMA网络架构,从Scale-Out拓扑演进至多平面组网。结合芯片级硬件实现,探讨RNIC寄存器、RTL数据流及GPUDirect RDMA通路,为万卡集群的高吞吐、低尾延迟网络建设提供实战指南。
我是有底线的