linux排障:服务端口被打满

事故描述

promotion请求其他服务异常,业务日志报错:"cannot assign requested address"

排障过程

1、

bash 复制代码
netstat -nap | grep ESTABLISHED | wc -l

发现很多链接没有释放,通常这个连接数就几十个

2、

bash 复制代码
#可用临时端口范围
cat /proc/sys/net/ipv4/ip_local_port_range
#当前用户进程可以打开的文件描述符数量,即单个进程能同时建立的连接数数量
ulimit -n
#空闲多少秒后开始发送 keepalive 探测包
cat /proc/sys/net/ipv4/tcp_keepalive_time

发现容器提供的端口有28232个,可以打开的文件描述符为1048576,系统默认keepalive时间为7200s。

事故原因

初步判断短时间内创建大量链接,且在处理完请求后tcp链接没有释放,导致端口被占用完。

于是抓包分析,发现在服务端没有抓到FIN包,并且出现很多keep-alive的报文,怀疑关闭链接的方法有问题或者没生效。经过讨论和测试,发现后端使用的框架里面有一个tcp链接keepalive的相关的配置:

后面将配置改为disablekeepalive: true 关闭了keepalive功能。经过测试已经正常,再运行脚本的时候,tcp链接数已经稳定。

相关推荐
sulikey6 小时前
个人Linux操作系统学习笔记11 - 环境变量
linux·笔记·学习
Kina_C6 小时前
NFS与Autofs快速讲解-从原理到实战配置
linux·nfs·autofs
皮卡狮6 小时前
文件系统:磁盘硬件寻址和系统软件寻址
linux
only-qi6 小时前
RAG 工作机制详解:构建高质量知识库的技术全流程
网络·人工智能·rag
是潮汕的灿灿展吖7 小时前
Centos离线部署nfs操作
linux·运维·centos
Kina_C7 小时前
Apache HTTP Server 安装、配置与高级功能详解
linux·http·apache
见合八方7 小时前
【噪声系数】高偏SOA噪声系数测试方法
网络·自动化·soa·光通信·激光雷达·半导体光放大器
治愈系贝壳7 小时前
ARM --- day 6 时钟
linux·arm开发·学习
jun_bai7 小时前
Orthanc服务器使用java上传dicom影像文件
java·运维·服务器
ZKNOW甄知科技7 小时前
燕千云深度集成飞书:以AI之力,开启无感IT运维体验
大数据·运维·网络·数据库·人工智能·低代码·集成学习