应用服务接口第二次请求一直pending问题

目录

一、问题背景

升级内容发布到灰度环境,验证相关服务,查看接口调用日志,发现第一次请求正常,第二次相同接口请求就一直pending,其他服务也是如此

二、问题排查过程

1、一开始怀疑是数据库打满了,导致响应阻塞,后来查看正常

2、排查后端服务日志,发现第二次请求都没有接收到,说明和后端服务也没有关系

3、后面仔细看pending的接口请求header报504,怀疑是nginx导致的问题

三、解决方案

运维配置的nginx有问题,待解决

四、总结

如果业务系统中使用了 Nginx 作为网关,出现第一次调用接口正常,第二次一直 pending 的情况,网关出现问题是有可能的,以下是一些相关的原因及分析:

  • 连接池配置问题

原因:Nginx 可能配置了连接池来管理与后端服务的连接。如果连接池的大小设置不合理,第一次调用接口时可能创建了新连接并正常使用,但第二次调用时连接池已满,且没有可用连接被释放,新的请求就会处于等待状态,一直 pending。或者连接池中的连接在第一次使用后出现异常,但没有被正确处理,导致第二次使用时出现问题。

解决方案:检查 Nginx 连接池的配置参数,如keepalive指令设置的连接数等,根据实际业务需求合理调整连接池大小。同时,确保连接池中的连接在使用后能正确释放和回收,对于异常连接要及时进行处理和清理。

  • 缓存设置问题

原因:Nginx 可能配置了缓存功能,第一次请求的结果被缓存下来,第二次请求时 Nginx 尝试从缓存中获取数据。如果缓存数据损坏、不完整或者缓存更新机制出现问题,可能导致 Nginx 无法正确返回缓存数据,进而使请求一直处于 pending 状态。

解决方案:检查 Nginx 的缓存配置,包括缓存区域的大小、缓存时间、缓存更新策略等。可以尝试清理缓存数据,观察问题是否解决。如果是缓存更新机制的问题,需要调整相关配置,确保缓存数据能及时、正确地更新。

  • 请求限流或限速设置

原因:Nginx 可能设置了请求限流或限速策略,以保护后端服务免受过多请求的冲击。第一次请求可能在限流或限速范围内正常处理,但第二次请求由于并发请求数增加或者请求频率超过了限制,被 Nginx 暂时挂起,导致一直 pending。

解决方案:检查 Nginx 的限流或限速配置指令,如limit_req_zone和limit_rate等,分析当前的请求流量是否超过了设置的阈值。如果是,根据实际情况调整限流或限速策略,或者增加后端服务的处理能力,以满足业务需求。

  • Nginx 配置错误

原因:Nginx 的配置文件中可能存在一些错误或不恰当的设置,影响了接口的正常调用。例如,server块、location块的配置参数错误,导致第二次请求的路由或处理出现问题;或者proxy_pass指令配置的后端服务地址不正确,使得请求无法正确转发。

解决方案:仔细检查 Nginx 的配置文件,确保各个指令的参数设置正确,路由规则符合业务需求。可以使用nginx -t命令来检查配置文件的语法正确性,并根据错误提示进行修改。如果怀疑配置文件中的某些部分存在问题,可以逐步注释掉相关配置,进行测试,以定位问题所在。

  • Nginx 进程或线程问题

原因:Nginx 在处理请求时,可能出现进程或线程挂起、阻塞等异常情况。例如,某个工作进程在处理第一次请求后进入了一个异常状态,导致后续的请求无法被正常处理,一直处于 pending 状态。这可能是由于 Nginx 本身的代码缺陷、内存泄漏或者受到外部因素(如系统资源不足、信号干扰等)的影响。

解决方案:查看 Nginx 的错误日志文件,查找是否有关于进程或线程异常的记录。同时,监控系统的资源使用情况,如 CPU、内存、磁盘 I/O 等,确定是否存在资源不足的问题。如果发现 Nginx 进程存在异常,可以尝试重启 Nginx 服务,并观察问题是否重现。如果问题仍然存在,可以考虑升级 Nginx 版本,或者向 Nginx 社区寻求帮助。

相关推荐
iuyou️2 分钟前
Spring Boot知识点详解
java·spring boot·后端
北辰浮光5 分钟前
[Mybatis-plus]
java·开发语言·mybatis
一弓虽15 分钟前
SpringBoot 学习
java·spring boot·后端·学习
南客先生18 分钟前
互联网大厂Java面试:RocketMQ、RabbitMQ与Kafka的深度解析
java·面试·kafka·rabbitmq·rocketmq·消息中间件
ai大佬22 分钟前
Java 开发玩转 MCP:从 Claude 自动化到 Spring AI Alibaba 生态整合
java·spring·自动化·api中转·apikey
Mr__Miss1 小时前
面试踩过的坑
java·开发语言
爱喝一杯白开水1 小时前
POI从入门到上手(一)-轻松完成Apache POI使用,完成Excel导入导出.
java·poi
向哆哆1 小时前
Java 安全:如何防止 DDoS 攻击?
java·安全·ddos
啥都想学的又啥都不会的研究生1 小时前
Kubernetes in action-初相识
java·docker·微服务·容器·kubernetes·etcd·kubelet
毅航1 小时前
MyBatis 事务管理:一文掌握Mybatis事务管理核心逻辑
java·后端·mybatis