一次生产docker MTU=1500问题排查解决

和业务方进行联调,业务方调用我方服务, 我方服务部署在虚拟机的docker容器中 提供grpc服务, 通过公网vip lvs到宿主机端口

联调发现 ping 和 telnet我方端口都正常, 但是通过grpc协议调用不通,一直超时

在容器上和lvs上tcpdump抓包发现了问题

bash 复制代码
tcpdump -i any host 11.53.192.102 and port 9370 -nn and not host 10.225.64.89 and not host 10.225.64.72 and not host 10.225.64.7 and not host 10.225.64.43 -A

容器内抓包:

lvs上抓包到宿主机:

从抓包看lvs上将包转发到了宿主机,且一直在重发, 说明在到宿主机丢包了,看宿主机上监控只是收到了小包,大包没有收到

推测也就是lvs 到后端服务这块出了问题 小报文没事,大报文丢失, 说明网络配置上有问题, 百度查询解释最多就是MTU设置有问题

MTU(Maximum Transmission Unit,最大传输单元),是网络链路节点的管控值。大于该值的数据帧,或分片,或丢弃。

排查宿主机和docker的MTU设置

宿主机eth0端口是1450

docker 相关的都是 1500

百度相关资料看 说让docker 设置1400 合适

按照教程修改 我的服务是通过docker compse 部署 找到网络设置进行添加

bash 复制代码
--- 
version: '3'
networks:
  fate-network:
    driver_opts:
      com.docker.network.driver.mtu: "1400"    --- 增加的 mtu大小
    ipam:
      config:
      - subnet: 192.167.0.0/16 

-- 设置docker0为
ip link set dev docker0 mtu 1400

重启服务

docker-compose up -d 重新部署服务

在观察 宿主机和docker 的 mtu docker都为1400

业务方再重新调用已经通了

原因:

bash 复制代码
Docker容器内无法使用宿主机网络,很大原因是Docker网桥mtu与宿主机mtu不一致导致的。
docker1.10版本后采用的方案是仅使用默认值1500,不再根据主机默认网卡mtu设定dockermtu,但是如果主机的mtu不是1500,
如何调整mtu的值?

而 docker0 bridge 默认 MTU 为 1500,当 docker0 bridge MTU 1500 大于 Host MTU(如 1400)时,会出现「即小包可通,大包不通」的情况,直观来说就是 ping 8.8.8.8 能通,但是网站打不开、apt update 卡住不动、更无法下载文件

参考

虚拟网络环境中 Docker MTU 问题及解决方式
docker内curl外部https失败
kubernetes集群中pod访问外网丢包严重问题排查:mtu值设置不对
一次网络问题排查

相关推荐
三言老师8 小时前
K8s集群运行时自动化运维全覆盖落地实操(下)
linux·运维·服务器·网络
艾伦_耶格宇9 小时前
【DOCKER进阶】-3 cgroups
docker·容器·eureka
躺不平的理查德11 小时前
嵌入式 Linux 系统移植与 SD 卡量产镜像制作
linux·运维·服务器
一直走下去-明12 小时前
centos7无法安装tcpreplay
linux·运维
IT大白鼠12 小时前
n8n工作流自动化平台技术架构与应用价值评估
运维·架构·自动化·n8n
anxiao_m12 小时前
园区数字孪生怎么搭建?主流方案与服务商深度对比
大数据·运维·人工智能
时空无限12 小时前
ubuntu dpkg -l 输出第一列解释
linux·运维·ubuntu
Splashtop高性能远程控制软件13 小时前
AI 落地的连接基建评估:消费品行业远程连接方案的四个技术维度(性能 / 精度 / 安全 / 统一管理)
运维·人工智能·安全·远程工作·splashtop
ITyunwei098714 小时前
技术管理者视角:AI 重构 ITSM 的四个工程化落点
运维·人工智能
core51214 小时前
如何从多架构 Docker 镜像中导出指定的 ARM64 版本
华为·docker·架构·镜像·导出·多架构