io的异步处理io_uring,实现io_uring_tcp_server

一、什么是异步?有哪些场景是异步?如何做到异步?

异步是对于两个事物的关系

io的检测 与 读写数据

读写数据 与 数据解析

比如:

客户端只管发送请求,这样可以并发多条请求,哪条请求有了响应再返回结果,这样客户端界面就不至于等一个请求有了响应再发起另一个请求(串行),界面不卡顿,提高用户体验

服务端对IO的处理往往比较耗时,可以把数据读写 与 数据处理做成异步,比如主线程只负责数据的读写,置于数据如何解析、响应可以抛到线程池处理,等有了结果再返回。这就大大减少了读完数据,还要等待数据解析、处理的时间。

read() write() recv() send()这些函数都是同步

比如read() 读取请求 --- 返回数据

那如何把a_read做成异步?

调用a_read,只发起读取请求,可以把请求放到一个任务队列(sqe)

work负责从任务队列取数据,执行,把结果放到结果队列(cqe) (线程池)

while(1)不断从cqe取结果(子线程)

注:

1.把task加到sqe会涉及频繁copy,可以通过mmap,把用户空间与内核空间做映射,避免copy

2.如何做到线程安全?

加锁是一种方案,但是效率不高

可以用无锁队列(环形队列),如:不断对100取模

内存是连续的,逻辑上是环形的

二、什么是io_uring?和epoll有什么区别?

io_uring 也是linux内核提供的,不过实现的是IO的异步处理

主要包含三个系统调用:

io_uring_setup ---- 创建环形队列(含mmap),sqe、cqe是一块内存、节点共享

io_uring_register --- 往sqe添加节点

io_uring_entry --- 把sqe所有节点交由内核

内核处理请求,返回结果到cqe

这三个系统调用被封装到了liburing的库中

区别在于:

epoll 需要管理的event只要放到总集,就不用再重复添加

io_uring 把请求放到sqe,内核对请求的操作是消耗性的,处理完,请求就不在sqe了;若想重复监控,就需要重复set

io_uring 中 EVENT_READ --- 数据已经读完了

epoll 中 EPOLLIN --- 数据可读

三、如何是实现一个io_uring_tcp_server?

1.初始化socket(create、bind、listen)

2.把accept、recv、send做成异步:

io_uring_setup --- io_uring_queue_init_params --- 创建sqe、cqe环形队列(含mmap)

io_uring_register --- io_uring_prep_accept等 --- 请求放到sqe

io_uring_entry --- io_uring_submit --- 把sqe中所有请求交由内核

内核接受到请求,立即处理,结果放到cqe

io_uring_peek_batch_cqe ---- 从cqe取结果

3.set_event_accept等对io_uring_prep_accept二次封装,添加event fd、sttatus控制。

后续根据不同的status,进行不同的处理,如,往sqe添加节点(set_event_rev等)

注:逻辑上而言:EVENT_READ --- 数据已经读完了。

因为EVENT_READ 定位在 set_event_recv 中,它实现了数据接收,并设置event状态。

具体代码实现如下:

set_event_accept、set_event_recv、set_event_send的封装

初始化socket(create、bind、listen)

setup环形队列(sqe、cqe)、register添加节点、entry交由内核处理

根据event状态,不同处理

相关推荐
虎头金猫1 天前
4K 视频总卡在公网带宽?用 N1 + OpenList 把网盘播放链路重新理顺
运维·服务器·网络·python·容器·beautifulsoup·pandas
AI职业加油站1 天前
AI智能体应用工程师证书:政策红利下的职业新风口
大数据·运维·人工智能·学习·职场发展
此冬歌咏1 天前
K8s 节点故障实战:优雅驱逐 31 秒,硬故障 331 秒,以及那个永远 Pending 的 Pod
运维·k8s
-梅1 天前
linux(8) 软硬链接
linux·运维·服务器
Wang's Blog1 天前
Java 项目实战: 外卖平台-文件下载与ServletOutputStream回写浏览器
服务器·项目开发
张洛闻Eren1 天前
k8s云原生【第十课】:水平 Pod 自动扩缩容
运维·数据库·云原生·kubernetes·github
琥珀色糖1 天前
SimlpeHttp
linux·服务器
其实防守也摸鱼1 天前
内网穿透与反向代理:原理、工具与实战指南
android·大数据·运维·安全·网络安全·自动化·渗透
第十人i1 天前
Linux 日志管理系统:journald 配置与优化
linux·服务器
布裘1 天前
【银河麒麟】V4桌面图标消失,右击鼠标没反应排查
运维·银河麒麟·桌面环境