centos linux 安装RDMA Soft-RoCE|虚拟机安装Soft-RoCE

RoCE既可以通过硬件实现,也可以通过软件实现。 Soft-RoCE 是 RDMA 传输的软件实现。

什么是Soft-RoCE

softRoCE的目标是在所有支持以太网的设备上都可以部署RDMA传输,可以使不具备RoCE能力的硬件和支持RoCE的硬件间进行基于IB语义的交流。

大白话就是模拟RDMA的软件栈,使得在没有RDMA网卡的环境上,也可以运行基于RDMA写的传输程序。

但是因为RDMA网卡的一大特色之一就是,传输的动作是网卡上的芯片处理的,普通网卡没有这样的硬件,所以只是实现了0拷贝,而没有真正的RDMA网卡的CPU减负功效。

更多关于Soft-RoCE,见:http://t.csdn.cn/SuM9m

http://t.csdn.cn/fD7iy

安装 (内核应当高于4.11)

红帽系统

Soft-RoCE 作为 upstream kernel 4.8(或更高版本)的一部分发布。

从 Red Hat Enterprise Linux 7.4 开始,Soft-RoCE 驱动程序已合并到内核中。用户空间驱动程序也合并到 rdma-core 包中。 Soft-RoCE 也称为 RXE。要启动、停止和配置 RXE,请使用 rxe_cfg 脚本。要查看 rxe_cfg 的选项,请输入 rxe_cfg help。

所以红帽系统的可以直接去配置,教程:https://access.redhat.com/documentation/en-us/red_hat_enterprise_linux/7/html/networking_guide/sec-configuring_soft-_roce

其他系统可以通过安装 Mellanox的OFED 获得Soft-RoCE

可以使用 Mellanox OFED 4.0 或上游驱动程序。如果安装 MLNX_OFED 4.0,您将自动获取 Soft-RoCE 内核模块和用户空间库。 (rdma_rxe模块在mellanox驱动包的kmod-mlnx-ofa_kernel 这个rpm包里面)

chatGPT的教程

要在CentOS上安装Soft-RoCE(RDMA over Ethernet),请按照以下步骤进行操作:

  1. 检查内核版本

在终端中运行以下命令,检查内核版本是否支持Soft-RoCE:

```

uname -r

```

如果内核版本低于4.11,您需要先升级内核。您可以使用`yum`命令安装最新的内核版本。

  1. 安装依赖软件包

在终端中运行以下命令,安装软件包以满足Soft-RoCE的依赖关系:

```

sudo yum install rdma libibverbs libibverbs-utils librdmacm librdmacm-utils

```

  1. 加载内核模块

在终端中运行以下命令,加载相关的内核模块:

```

sudo modprobe rdma_rxe

sudo modprobe ib_core

sudo modprobe ib_cm

```

  1. 配置Soft-RoCE

在终端中运行以下命令,编辑RoCE的配置文件:

```

sudo vi /etc/rdma/rdma.conf

```

将以下行添加到配置文件中:

```

Enable RoCE

RDMA_LOAD=yes

```

保存并关闭文件。

  1. 启动Soft-RoCE服务

在终端中运行以下命令,启动Soft-RoCE服务:

```

sudo systemctl start rdma

```

如果您希望Soft-RoCE在系统引导时自动启动,还可以运行以下命令:

```

sudo systemctl enable rdma

```

  1. 验证Soft-RoCE状态

运行以下命令,验证Soft-RoCE的状态:

```

sudo rxe_cfg

```

如果Soft-RoCE已成功配置和启动,您将看到适配器和端口的详细信息。

恭喜您,现在已成功在CentOS上安装Soft-RoCE。您可以使用Soft-RoCE进行RDMA over Ethernet通信了。请确保您的网络硬件和驱动程序支持RoCE。

相关推荐
腾讯蓝鲸智云4 小时前
【运维自动化-节点管理】节点管理的插件策略如何使用
运维·自动化·云计算·sass·paas
疯狂成瘾者6 小时前
服务器的单体和集群
运维·服务器
liuhuizuikeai6 小时前
可视化门禁---Linux/Qt+SqLite篇
linux·运维·qt
初願致夕霞6 小时前
基于系统调用的Linux网络编程——UDP与TCP
linux·网络·c++·tcp/ip·udp
charlie1145141919 小时前
嵌入式Linux驱动开发——新 API 字符设备驱动完整教程 - 从设备结构体到应用测试
linux·运维·驱动开发
飞Link9 小时前
2000 亿砸向算力:字节跳动 AI 基建跨越,后端与运维的“万亿 Token”生死战
运维·人工智能
消失的旧时光-194310 小时前
C语言对象模型系列(四)《Linux 内核里的 container_of 到底是什么黑魔法?》—— 一篇讲透 Linux 内核的“对象模型”核心技巧
linux·c语言·算法
SWAGGY..10 小时前
Linux系统编程:(二)基础指令详解
linux·运维·服务器
kdxiaojie10 小时前
U-Boot分析【学习笔记】(3)
linux·笔记·学习
烛衔溟10 小时前
TypeScript 接口继承与混合类型
linux·ubuntu·typescript