记一次虚机上传过慢问题排查

最近线上虚机有个特殊的用户反馈,用户反馈虚机从A服务器下载文件特别慢,于是scp A服务器数据到本地client,发现 只有几十K的流量。

当时第一反应怀疑是虚机负载压力比较大,但是查看虚机IO以及负载都很低。。。。

然后tcpdump抓包发现有大量重传, 虚机A mtu 1450 , 但是抓包存在 length 1466的包都重传了,理应分片为啥不分片呢?

所以还是哪块网络有问题。因为包过大内核协议栈理应理应会交给CPU做分片处理,但是tcpdump抓内核协议栈里的却没有分片,所以怀疑不是CPU做的分片,是不是网卡做的分片,所以怀疑是不是开了tso把分片卸载到网卡了,最终查看网卡参数虚机确实是开了tso了。

TSO(transimit segment offload)是针对tcp而言的,是指协议栈可以将tcp 分段的操作offload到硬件的能力,本身需要硬件的支持。当网卡具有TSO能力时,上层协议栈可以直接下发一个超过MTU数据包,而把数据包拆分的动作交给硬件去做,节省cpu资源。

所以原因是用户开了tso ,但是宿主机上网卡是基于ovs-dpdk的,但是ovs-dpdk没开启tso支持,所以导致了本次网络问题。临时解决办法让用户关了tso,后来网络就好了

通过linux命令可以查看网络接口是否支持TSO和GSO特性:
复制代码
# ethtool -k eth0
tcp-segmentation-offload: on
udp-fragmentation-offload: on
generic-segmentation-offload: on
generic-receive-offload: on
large-receive-offload: off [fixed]
rx-vlan-offload: off [fixed]
tx-vlan-offload: off [fixed]
l2-fwd-offload: off [fixed]
hw-tc-offload: off [fixed]
rx-udp_tunnel-port-offload: off [fixed]
通过linux命令,可以打开和关闭tso功能:
复制代码
ethtool -K eth0 tso on   
ethtool -K eth0 tso off

参考文档:

https://jimizhou.com/virtual-network

https://docs.openvswitch.org/en/latest/topics/userspace-tso/

相关推荐
河北瑾航科技15 小时前
广西水资源遥测终端 广西水利遥测终端 广西用水监测遥测终端 河北瑾航科技遥测终端机HBJH-B01说明书
网络·科技·水文遥测终端机·遥测终端机·广西水资源遥测终端机·广西水利遥测终端·广西用水终端
羑悻的小杀马特16 小时前
轻量跨云·掌控无界:Portainer CE + cpolar 让远程容器运维像点外卖一样简单——免复杂配置,安全直达对应集群
运维·网络·安全·docker·cpolar
愚戏师16 小时前
Python3 Socket 网络编程复习笔记
网络·笔记
降临-max17 小时前
JavaSE---网络编程
java·开发语言·网络·笔记·学习
1560820721917 小时前
基于7VX690T FPGA实现万兆TCP/IP资源和性能测试
网络协议·tcp/ip·fpga开发
赖small强17 小时前
【Linux 网络基础】libwebsockets HTTPS 服务端实现机制详解
linux·网络·https·tls·libwebsockets
大白的编程日记.18 小时前
【计算网络学习笔记】MySql的多版本控制MVCC和Read View
网络·笔记·学习·mysql
踏浪无痕19 小时前
线上偶发 502 排查:用 Netty 成功复现 KeepAlive 时间窗口案例实战(附完整源码)
运维·网络协议
shmexon19 小时前
上海兆越亮相无锡新能源盛会,以硬核通信科技赋能“能碳未来”
网络·人工智能
北京耐用通信20 小时前
告别“牵一发而动全身”:耐达讯自动化Profibus PA分线器为石化流量计网络构筑安全屏障
人工智能·网络协议·安全·自动化·信息与通信