GreenPlum/Cloudberry UDP数据连接及接收缓存

GreenPlum/Cloudberry UDP数据连接及接收缓存

GPDB/Cloudberry生产环境中,一般使用UDP连接在Segment之间进行数据发送和接收。执行计划在MPP架构下分布式执行时,一旦需要Motion算子传输数据,比如非分布键进行join时,就需要在segment之间传输数据。此时就用到了UDP连接,需要了解segment发送端和接收端绑定哪个IP和端口,从而知晓数据向哪里发送,接收端接收到数据后向哪里回复ACK告知数据收到了。同时发送端需要通过哪个socket发送,接收端需要通过哪个socket接收,发送缓存和接收缓存有多大等等这些问题都需要了解,才能帮助DBA在复杂的环境中调优接收队列长度等配置项,从而达到最优性能。

本文介绍UDP连接什么时候构建以及他们接收缓存和发送缓存是如何构建的。

1、构建UDP连接的流程

构建UDP连接的流程如下图所示:

1)客户端连接到master上时,master服务端会fork出一个进程提供服务,该进程作为QD会将执行计划分发给segment执行

2)Fork出的进程初始化时,通过cdb_setup函数绑定随机端口和IP。注意这里会随机绑定两个端口listenerPort和ICSenderPort。

每个连接都有发送缓存和接收缓存,由gp_udp_bufsize_k控制,如果该参数为0,则默认使用2MB。当然这里仅是软件层的设置,具体设置多大还有结合操作系统层的设置,软件层设置超过操作系统层设置后,就用操作系统层的最大设置值:

3)QD通过initPlan函数向segment发送执行计划时,通过libpq作为一个客户端连接segment,segment会fork出一个进程作为QE为该执行计划服务。当然该QE进程初始化时也会调用cdb_setup绑定两个端口,生成两个socket,同时将listenerPort通过sendQEDetails发送给QD。QD将该端口保存到对应的segdbDesc->motionListener中,随后注册到slice表的CdbProcess链表的primaryProcessess中。

4)随后QD和QE都会调用SetupInterconnect完成连接的设置。如果该进程上执行的slice有子slice就需要创建对应接收连接结构,若有父slice就需要创建发送连接结构

5)作为接收端 ,需要得到子slice的大小,也就是子slice中有多少QE进程,就为每个QE进程创建对应的接收连接,同时连接的srcListenerPort设置为发送端QE的listener_port ,dsListenerPort为本进程的listener_port,此时连接的conn->peer不需要设置,接收数据后才会将对应发送端的ip和端口拷贝到该peer,从而向该目标发送ACK

6)作为发送端 ,需要得到父slice大小,也就是父slice有多少进程,本进程需要向这么多进程发送数据。为每个父端进程创建发送连接,连接的srcListenerPort设置为本进程的listener_port ,dsListenerPort为发送端QE的listener_por **t,**此时conn->peer需要设置为接收端的IP和listener_port,同时发送连接pEntry.txfd设置为ICSenderSocket。

2、发送和接收示意图

发送和接收使用的socket和端口如下图所示,ICSenderSocket用于发送数据和接收ACK,UDP_listenerFd用于接收数据和发送ACK,这样将发送数据和ACK分开,使用不同socket,简化接收和发送的处理逻辑,增加并发性能:

发送和接收流程如下图所示:

相关推荐
默|笙10 小时前
【Linux网络】网络层协议 IP(1)理解报头、网段划分
linux·网络·tcp/ip
梦到啥说啥16 小时前
Linux网络编程:TCP网络协议
网络·网络协议·tcp/ip
Alluxio16 小时前
Alluxio + OCI:为 AI 工作负载实现亚毫秒访问延迟与可扩展吞吐
运维·数据库·人工智能·分布式·缓存·ai·语言模型
Shanks.20 小时前
2026 远程控制软件实测:ToDesk / 向日葵 / RustDesk / TeamViewer 在跨城与弱网下的真实差距
网络·远程工作·软件需求
Jeremy_WW20 小时前
802.3协议解读 06:117章节 RS 和 200GMII / 400GMII I
网络·网络协议·信息与通信·光模块·802.3协议
坤坤子吖21 小时前
Linux网络编程:自定义应用层协议与 JSON 序列化
linux·服务器·网络·c++·笔记·json
青瓦梦滋21 小时前
Redis主从复制
服务器·数据库·redis·缓存·bootstrap
顧棟21 小时前
INFINI Gateway 服务器端口重用(SO_REUSEPORT)实现与分析
网络·gateway
沫璃染墨1 天前
从零入门计算机网络系列(十八):TCP连接管理详解——从三次握手与四次挥手到TIME_WAIT机制
运维·服务器·网络·c++·网络协议·tcp/ip·tcp
LabVIEW开发1 天前
Omron PLC:接 LabVIEW 常踩的 5 个坑
服务器·网络·labview·labview知识·labview功能·labview程序