集群网络技术1:RDMA和相关协议

一、核心概念:为什么需要RDMA?

传统网络通信的问题(TCP/IP栈的瓶颈) 在传统的网络通信(如标准的TCP/IP Socket)中,数据从应用层到网卡需要经过复杂的路径:

1.应用将数据放入内存缓冲区。

2.操作系统内核接管,进行TCP/IP协议栈的处理(封装包头、校验等)。

3.数据从用户内存空间拷贝到内核的内存空间。

4.内核通过驱动程序通知网卡取数据。

5.网卡从内核内存中读取数据并发送。 这个过程涉及多次上下文切换(用户态/内核态切换)和内存拷贝,消耗大量的CPU周期和内存带宽。当网络速度达到200G、400G时,CPU会花费绝大部分时间来处理网络协议栈本身,而不是运行业务程序,这被称为"协议栈开销"。

RDMA(Remote Direct Memory Access)远程直接内存访问 RDMA技术的诞生就是为了解决上述瓶颈。它的核心思想是绕过操作系统内核,实现网络中一台计算机的网卡直接访问另一台计算机的内存。

二、RDMA的三个核心特征:

1.零拷贝:数据直接从应用的用户态内存发送到远程网卡,并写入远程应用的用户态内存,无需经过内核缓冲区。

2.内核旁路:应用可以直接向网卡提交指令,无需操作系统介入,减少了上下文切换。

3.无CPU参与:数据传输过程完全由网卡硬件处理,CPU几乎不干预,可以解放出来处理计算任务。

三、带来的好处:

1.超低延迟:从毫秒级降低到微秒级。

2.高吞吐:能充分发挥200G/400G网络的带宽。

3.极低的CPU占用率:即使网络流量满载,CPU使用率也几乎为零。

四、RDMA是一个技术理念,它需要通过具体的协议来实现。

主要有三种:

InfiniBand: 专为RDMA设计的网络,从硬件层就原生支持RDMA,性能最好,但需要专用的交换机和网线,成本高。

RoCE: RDMA over Converged Ethernet(基于融合以太网的RDMA)。它允许在标准的以太网上运行RDMA,从而利用现有、廉价且普及的以太网基础设施。这是目前最主流的方案。

iWARP: 另一种在TCP/IP上实现RDMA的协议,但由于TCP的复杂性,其性能和延迟通常不如RoCE。

相关推荐
神奇霸王龙2 小时前
Claude Code屠榜:MiMo与Grok紧追Codex
服务器·网络·人工智能·gpt·ai·ai编程
数智化管理手记4 小时前
账龄分析手工统计易遗漏?自动账龄分析工具怎么搭建
大数据·网络·数据库·人工智能·数据挖掘
LabVIEW开发4 小时前
NI Package Manager安装LabVIEW时InternalServerError错误
网络·数据库·labview·labview知识·labview功能·labview程序
RD_daoyi5 小时前
外链权重暴跌至13%,品牌提及反超传统链接——2026年不做Digital PR,你的独立站等于隐形
运维·网络·学习·机器学习·搜索引擎
Database_Cool_5 小时前
AI Agent 长期记忆怎么存?阿里云 PolarDB-X 对接 Mem0 记忆框架实践
数据库·阿里云
张小姐的猫5 小时前
【Linux】网络编程 —— HTTP协议(上)
linux·运维·服务器·网络·http·单例模式·策略模式
国科安芯5 小时前
星间光链路:AS32S601型抗辐射MCU在空间激光通信终端控制中的技术实现
服务器·网络·单片机·嵌入式硬件·物联网·安全·信息与通信
Database_Cool_6 小时前
阿里云 Lindorm vs InfluxDB vs TDengine:时序数据库全维度对比,多模融合降本 90%
阿里云·时序数据库·tdengine
可视化运维管理爱好者6 小时前
nVisual Studio:数据中心网络智能规划设计工具
网络·ide·visual studio
MetrixAeroCore6 小时前
光伏逆变器远程监控物联网卡流量极小但需常年在线的套餐推荐
网络