SpringBoot 可以同时处理多少请求

目录

一、前言

二、相关配置

1、配置信息

2、配置说明

3、案例说明

三、代码验证

1、测试代码

2、测试步骤

四、总结


一、前言

首先,在Spring Boot应用中,我们可以使用 Tomcat、Jetty、Undertow 等嵌入式 Web 服务器作为应用程序的运行容器。这些服务器都支持并发请求处理的能力。另外,Spring Boot 还提供了一些配置参数,可以对 Web 服务器进行调优,以提高其并发处理能力。而我们大家都知道,Spring Boot应用默认使用的Web服务器(内嵌容器)为Tomcat,了解了以上内容,我们就知道,这个问题的本质就是一个Spring Boot应用,内嵌的Tomcat能够处理多少请求

二、相关配置

1、配置信息

关于Tomcat的默认配置,都在spring-configuration-metadata.json文件中,对应的配置类则是org.springframework.boot.autoconfigure.web.ServerProperties。

2、配置说明

server.tomcat.threads.min-spare :最少的工作线程数,默认大小是10。该参数相当于长期工,如果并发请求的数量达不到10,就会依次使用这几个线程去处理请求。
server.tomcat.threads.max :最多的工作线程数,默认大小是200。该参数相当于临时工,如果并发请求的数量在10到200之间,就会使用这些临时工线程进行处理。
server.tomcat.max-connections :最大连接数,默认大小是8192。表示Tomcat可以处理的最大请求数量,超过8192的请求就会被放入到等待队列。
server.tomcat.accept-count:等待队列的长度,默认大小是100。

3、案例说明

如果把Tomcat比作一家饭店的话,那么一个请求其实就相当于一位客人。min-spare 就是厨师(长期工);max是厨师总数(长期工+临时工);max-connections 就是饭店里的座位数量;accept-count是门口小板凳的数量。来的客人优先坐到饭店里面,然后厨师开始忙活,如果长期工可以干得完,就让长期工干,如果长期工干不完,就再让临时工干。

图中画的厨师一共15人,饭店里有30个座位,也就是说,如果现在来了20个客人,那么就会有5个人先在饭店里等着。如果现在来了35个人,饭店里坐不下,就会让5个人先到门口坐一下。如果来了50个人,那么饭店座位+门口小板凳一共40个,所以就会有10人离开。

也就是说,SpringBoot能同时处理的最大请求数量是max-connections + accept-count,超过该数量的请求直接就会被丢掉。

三、代码验证

1、测试代码

首先创建一个SpringBoot的项目,然后在application.yml里配置一下对应参数,默认最大连接数为8192,这里我们为了方便你测试,将最大连接数调整为40。

配置内容:

复制代码
server:
  tomcat:
    threads:
      # 最少线程数
      min-spare: 10
      # 最多线程数
      max: 15
    # 最大连接数
    max-connections: 30
    # 最大等待数
    accept-count: 10

接口内容:

首先通过日志输出线程名称,然后休眠0.5秒,这样就会使得应用在处理请求时,无法一次性处理所有请求,从而让部分请求进入到等待队列。

java 复制代码
@GetMapping("/test")
public Response test1(HttpServletRequest request) throws Exception {
    log.info("ip:{},线程:{}", request.getRemoteAddr(), Thread.currentThread().getName());
    Thread.sleep(500);
    return Response.buildSuccess();
}

2、测试步骤

使用Apifox创建一个测试用例,来模拟100个请求,如果你不习惯使用这个工具的话,也可以使用jmeter来达到同样的测试效果。

从结果中可以看出,由于设置的max-connections + accept-count的和是40,所以有60个请求会被丢弃,这和我们的预期是相符的。由于最大线程是15,也就是有25个请求会先等待,等前15个处理完了再处理15个,最后在处理10个,也就是将40个请求分成了15,15,10这样三批进行处理。

再结合控制台打印的日志不难看出,线程的最大编号是15,这也印证了前面的想法。

四、总结

  • SpringBoot能同时处理的最大请求数量是max-connections + accept-count。
  • 如果并发请求数量低于server.tomcat.threads.max,则会被立即处理,超过的部分会先进行等待。
  • 如果数量超过max-connectionsaccept-count之和,则多余的部分则会被直接丢弃。
  • SpringBoot在处理请求时,会根据请求的数量,分批次进行处理。
相关推荐
0xDevNull9 分钟前
Java BigDecimal 完全指南:从入门到精通
java·开发语言·后端
无心水14 分钟前
17、Java内存溢出(OOM)避坑指南:三个典型案例深度解析
java·开发语言·后端·python·架构·java.time·java时间处理
小江的记录本17 分钟前
【Docker】Docker系统性知识体系与命令大全(镜像、容器、数据卷、网络、仓库)
java·网络·spring boot·spring·docker·容器·eureka
花千树-01023 分钟前
JMeter 入门与进阶指南:从零开始构建你的压测环境
java·spring boot·jmeter·性能优化·压力测试·可用性测试
Arthas21736 分钟前
互联网大厂Java面试实战:从基础到架构的渐进式考察
java·spring boot·微服务·面试·技术栈
咚为37 分钟前
深入浅出 Rust 内存顺序:从 CPU 重排到 Atomic Ordering
开发语言·后端·rust
xxjj998a1 小时前
spring security 超详细使用教程(接入springboot、前后端分离)
java·spring boot·spring
weixin_408099671 小时前
OCR 在线识别 + API 接口实战:从网页验证到系统集成
图像处理·人工智能·后端·ocr·api·图片文字识别·文字识别
crack_comet1 小时前
Spring Boot 3.5.11 分离打包(无参数启动+Jar瘦身)完整配置文档
java·spring boot·后端·maven·intellij-idea·jar
echome8882 小时前
Go 语言并发编程:Channel 与 Goroutine 的完美结合
开发语言·后端·golang