应用服务接口第二次请求一直pending问题

目录

一、问题背景

升级内容发布到灰度环境,验证相关服务,查看接口调用日志,发现第一次请求正常,第二次相同接口请求就一直pending,其他服务也是如此

二、问题排查过程

1、一开始怀疑是数据库打满了,导致响应阻塞,后来查看正常

2、排查后端服务日志,发现第二次请求都没有接收到,说明和后端服务也没有关系

3、后面仔细看pending的接口请求header报504,怀疑是nginx导致的问题

三、解决方案

运维配置的nginx有问题,待解决

四、总结

如果业务系统中使用了 Nginx 作为网关,出现第一次调用接口正常,第二次一直 pending 的情况,网关出现问题是有可能的,以下是一些相关的原因及分析:

  • 连接池配置问题

原因:Nginx 可能配置了连接池来管理与后端服务的连接。如果连接池的大小设置不合理,第一次调用接口时可能创建了新连接并正常使用,但第二次调用时连接池已满,且没有可用连接被释放,新的请求就会处于等待状态,一直 pending。或者连接池中的连接在第一次使用后出现异常,但没有被正确处理,导致第二次使用时出现问题。

解决方案:检查 Nginx 连接池的配置参数,如keepalive指令设置的连接数等,根据实际业务需求合理调整连接池大小。同时,确保连接池中的连接在使用后能正确释放和回收,对于异常连接要及时进行处理和清理。

  • 缓存设置问题

原因:Nginx 可能配置了缓存功能,第一次请求的结果被缓存下来,第二次请求时 Nginx 尝试从缓存中获取数据。如果缓存数据损坏、不完整或者缓存更新机制出现问题,可能导致 Nginx 无法正确返回缓存数据,进而使请求一直处于 pending 状态。

解决方案:检查 Nginx 的缓存配置,包括缓存区域的大小、缓存时间、缓存更新策略等。可以尝试清理缓存数据,观察问题是否解决。如果是缓存更新机制的问题,需要调整相关配置,确保缓存数据能及时、正确地更新。

  • 请求限流或限速设置

原因:Nginx 可能设置了请求限流或限速策略,以保护后端服务免受过多请求的冲击。第一次请求可能在限流或限速范围内正常处理,但第二次请求由于并发请求数增加或者请求频率超过了限制,被 Nginx 暂时挂起,导致一直 pending。

解决方案:检查 Nginx 的限流或限速配置指令,如limit_req_zone和limit_rate等,分析当前的请求流量是否超过了设置的阈值。如果是,根据实际情况调整限流或限速策略,或者增加后端服务的处理能力,以满足业务需求。

  • Nginx 配置错误

原因:Nginx 的配置文件中可能存在一些错误或不恰当的设置,影响了接口的正常调用。例如,server块、location块的配置参数错误,导致第二次请求的路由或处理出现问题;或者proxy_pass指令配置的后端服务地址不正确,使得请求无法正确转发。

解决方案:仔细检查 Nginx 的配置文件,确保各个指令的参数设置正确,路由规则符合业务需求。可以使用nginx -t命令来检查配置文件的语法正确性,并根据错误提示进行修改。如果怀疑配置文件中的某些部分存在问题,可以逐步注释掉相关配置,进行测试,以定位问题所在。

  • Nginx 进程或线程问题

原因:Nginx 在处理请求时,可能出现进程或线程挂起、阻塞等异常情况。例如,某个工作进程在处理第一次请求后进入了一个异常状态,导致后续的请求无法被正常处理,一直处于 pending 状态。这可能是由于 Nginx 本身的代码缺陷、内存泄漏或者受到外部因素(如系统资源不足、信号干扰等)的影响。

解决方案:查看 Nginx 的错误日志文件,查找是否有关于进程或线程异常的记录。同时,监控系统的资源使用情况,如 CPU、内存、磁盘 I/O 等,确定是否存在资源不足的问题。如果发现 Nginx 进程存在异常,可以尝试重启 Nginx 服务,并观察问题是否重现。如果问题仍然存在,可以考虑升级 Nginx 版本,或者向 Nginx 社区寻求帮助。

相关推荐
Remember_Ray6 分钟前
重学Java基础篇—什么是快速失败(fail-fast)和安全失败(fail-safe)?
java
奋进的小暄6 分钟前
贪心算法(12))(java)坏了的计算器
java·算法·贪心算法
RainbowSea13 分钟前
2. RabbitMQ 的详细安装步骤(两种方式,第一种:yum 安装;第二种:docker 容器安装)
java·消息队列·rabbitmq
小鱼人爱编程22 分钟前
Look My Eyes 最新IDEA快速搭建Java Web工程的两种方式
java·前端·后端
Mr.wangh25 分钟前
SpringBoot 配置⽂件
java·spring boot·spring
RainbowSea25 分钟前
1. 初始 RabbitMQ 消息队列
java·消息队列·rabbitmq
秋野酱36 分钟前
基于javaweb的SpringBoot水果生鲜商城系统设计与实现(源码+文档+部署讲解)
java·spring boot·后端
sunly_1 小时前
Flutter:切换账号功能记录
android·java·flutter
大白曾是少年1 小时前
【Java进阶学习 第十篇】递归和异常
java·笔记·学习
getapi1 小时前
Flutter和React Native在开发app中,哪个对java开发工程师更适合
java·flutter·react native