RocketMQ学习笔记:零拷贝

这是本人学习的总结,主要学习资料如下

目录


1、零拷贝技术

1.1、什么是零拷贝

使用传统的IO,从硬盘读取数据然后发送到网络需要经过四个步骤。

  1. 通过DMA复制读取硬盘数据,复制到系统的内核缓冲区。
  2. 从内核缓冲区通过CPU将数据复制到应用程序缓冲区。这里涉及到内核态转用户态。
  3. 从应用程序缓冲区通过CPU复制数据到套接字缓冲区。这里涉及到用户态转内核态。
  4. 最后通过DMA从套接字缓冲区复制数据到网卡等网络设备。发送数据的事就交给网络设备。


DMA(Direct Memory Access)可以说是一个可以直接访问磁盘等硬件的设备,不过速度要比CPU要慢很多。

所以传统的IO有四次复制过程。零拷贝则是利用内存映射等技术,减少其中的一两个拷贝过程,大大提高效率。

1.2、mmap()

RocketMQ是通过mmap()内存映射技术来实现零拷贝。

mmap将磁盘上的文件位置和应用程序缓冲区做了一个一一对应的映射,使应用程序可以像读取应用程序缓冲区一样直接读取到磁盘的文件内容。

使用了mmap后就可以省去一次DMA的复制。变成下面的过程。

  1. 通过mmap复制数据到应用程序缓冲区。
  2. 从应用程序缓冲区通过CPU复制数据到套接字缓冲区。这里涉及到用户态转内核态。
  3. 最后通过DMA从套接字缓冲区复制数据到网卡等网络设备。发送数据的事就交给网络设备。

1.3、Java中的零拷贝

Java中可以通过MappedByteBuffer来实现mmap,但是这种方式一次最多只能映射1.5 ~ 2G的文件,这也是RocketMQ的单个CommitLog文件默认是1G的原因。

java 复制代码
File file = new File(path);
// 通过Channenl进行内存空间和磁盘空间的映射
FileChannel fileChannel = new RandomAccessFile(file, "rw").getChannel();
// 该Buffer就是映射空间,可以看成是磁盘和内存共享的
MappedByteBuffer map = fileChannel.map(FileChannel.MapMode.READ_WRITE, 0, 1024);
// 写内容
mmap.put("Content".getBytes());
// 写内容到磁盘
mmap.flip();
byte[] bb = new byte[4];
//读取数据
mmap.get(bb, 0, 4);
// 解除mmap
unmap(mmap);
相关推荐
lulinhao10 分钟前
HCIA/HCIP基础知识笔记汇总
网络·笔记
杉之40 分钟前
SpringBlade 数据库字段的自动填充
java·笔记·学习·spring·tomcat
WarPigs1 小时前
blender场景导入Unity的流程(个人总结)
笔记
Song3 小时前
JVM 学习计划表(2025 版)
jvm·学习
小杨爱学习zb3 小时前
学习总结 网格划分+瞬态求解设置
笔记·学习·算法
互联网上的猪3 小时前
Excel时间类型函数(包括today、date、eomonth、year、month、day、weekday、weeknum、datedif)
笔记·学习·excel
weixin_535455794 小时前
WPF设计学习记录滴滴滴2
学习·wpf
阿超爱嵌入式4 小时前
STM32学习笔记之RCC模块(实操篇)
笔记·stm32·学习
yanyu-yaya4 小时前
devextreme-react/scheduler 简单学习
前端·学习·react.js
淬渊阁4 小时前
汇编学习之《运算和逻辑指令》
汇编·学习