TCP参数调优:跨境链路上改哪几个内核参数最管用

跨境传输速度上不去,很多时候不是带宽不够,是TCP协议栈的参数没调对。默认配置是为低延迟、低丢包的网络设计的,放到跨太平洋链路上就是水土不服。

调哪些参数能明显改善速度,列几个实测有效的方向。

一、先把拥塞控制算法换了

这是改动最小、效果最明显的一步。Linux 4.9以上内核内置了BBR,默认没开,目前大多数服务器还在跑cubic。

cubic的逻辑是"丢包等于拥塞",检测到丢包就主动降速。跨境链路丢包是常态,cubic会频繁踩刹车,带宽买再多也跑不上去。BBR的思路不一样,它持续测量链路的实际带宽和最小RTT,在两者之间找平衡点------把带宽跑满,同时尽量不让数据在中间设备缓存里堆积。

实测数据:BBR部署后吞吐量提升20%-50%的情况很常见。开启方式只需要两行配置:

text

复制代码
net.core.default_qdisc = fq
net.ipv4.tcp_congestion_control = bbr

写进/etc/sysctl.conf,执行sysctl -p生效。用sysctl net.ipv4.tcp_congestion_control确认切换成功。

二、缓冲区大小要扩,跨境场景下默认值不够用

TCP传输依赖接收窗口和发送窗口,窗口大小决定了单条连接能跑多快。窗口太小,就算带宽充足,数据也发不出去。

公式是:吞吐量 = 窗口大小 / RTT。RTT 200ms的链路上,要达到100Mbps吞吐量,窗口需要2.5MB。默认的缓冲区往往只有几十KB,远不够用。

跨境场景下把缓冲区扩到16MB比较稳妥,留足余量:

text

复制代码
net.core.rmem_max = 134217728
net.core.wmem_max = 134217728
net.ipv4.tcp_rmem = 4096 87380 134217728
net.ipv4.tcp_wmem = 4096 65536 134217728

四个参数的含义:rmem/wmem分别是接收和发送缓冲区,max是上限,后面的三个值是"最小-默认-最大"。tcp_rmem和tcp_wmem的默认值和最大值决定了每条TCP连接的实际可用窗口。

三、TIME_WAIT积压会拖慢建连速度

大量短连接场景下,主动关闭连接的一端会积累大量TIME_WAIT状态。系统默认TIME_WAIT要等2MSL(约60秒)才能释放端口,端口资源消耗快了,新连接就可能建不起来。

两个参数配合使用:

text

复制代码
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_fin_timeout = 30

tcp_tw_reuse允许新连接复用TIME_WAIT状态的socket(注意只在出站连接有效),tcp_fin_timeout缩短FIN-WAIT-2的等待时间。同时检查本地端口范围够不够:

text

复制代码
net.ipv4.ip_local_port_range = 1024 65000

默认范围通常是32768-60999,高并发场景下可能不够用,扩到1024-65000能缓解端口耗尽。

四、队列长度调大,防止高并发时连接被丢弃

高并发场景下,连接队列满了新连接就会被丢掉,用户端表现为"连不上"。两个队列参数值得调:

text

复制代码
net.core.somaxconn = 65535
net.ipv4.tcp_max_syn_backlog = 65535
net.core.netdev_max_backlog = 10000

somaxconn控制已完成三次握手的连接队列长度,tcp_max_syn_backlog控制半连接队列(SYN_RECV状态)长度,netdev_max_backlog是网卡收包队列。默认值128和1024,流量稍微上来就不够用。

注意:sysctl调了之后,应用层也要同步调。Nginx的listen指令、Redis的tcp-backlog、Java的ServerSocket构造函数,都有自己的backlog参数,最终取的是sysctl值和应用层值两者中的较小值。系统调大而应用没调,等于白改。

一次完整的参数配置

把下面这些写进/etc/sysctl.conf,然后sysctl -p生效:

text

复制代码
net.core.default_qdisc = fq
net.ipv4.tcp_congestion_control = bbr

net.core.rmem_max = 134217728
net.core.wmem_max = 134217728
net.ipv4.tcp_rmem = 4096 87380 134217728
net.ipv4.tcp_wmem = 4096 65536 134217728

net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_fin_timeout = 30
net.ipv4.ip_local_port_range = 1024 65000

net.core.somaxconn = 65535
net.ipv4.tcp_max_syn_backlog = 65535
net.core.netdev_max_backlog = 10000

调完后用iperf3跑个测试对比前后数据,能看到明显变化。跨境链路上,这几个参数带来的提升比其他花哨的优化手段都实在。

相关推荐
千视kiloview12 小时前
“轻”不等于降级:IP时代广播制作系统的轻量化与Hybrid架构实践
网络·tcp/ip·架构
瓦学妹14 小时前
美国住宅IP如何选?不同平台配置选择标准与教程指南
网络·网络协议·tcp/ip
Cx330❀15 小时前
【Linux网络】深入TCP 协议(一):从报头结构到可靠性机制
linux·运维·服务器·网络·c++·网络协议·tcp/ip
青瓦梦滋1 天前
传输层UDP/TCP协议
linux·网络·c++·网络协议·tcp/ip·udp
xiaoxiangsiyan1 天前
HCIA 网络技术基础核心模块详解
运维·网络·网络协议·tcp/ip·运维开发·网络基础
Bobolink_1 天前
IP更换频率:账号运营里多久换一次IP算正常
大数据·网络协议·tcp/ip
treesforest1 天前
你的IP干净吗?
网络·网络协议·tcp/ip·跨境电商·ip归属地查询·跨境
llllll1522 天前
深入浅出计算机网络:从 TCP 可靠传输到 DNS 解析核心原理
网络协议·tcp/ip·计算机网络
峥无2 天前
《TCP/IP协议栈详解:协议分层·封装分用·地址管理》
网络·网络协议·tcp/ip
GDAL2 天前
Nginx TCP/UDP四层转发(Stream模块)完整深入教程
tcp/ip·nginx·udp