# 利刃出鞘_Tomcat 核心原理解析（十）-- Tomcat 性能调优--2

188_djh2024-09-02 11:07

利刃出鞘_Tomcat 核心原理解析（十）-- Tomcat 性能调优--2

二、Tomcat专题 - Tomcat性能调优 - 性能测试结果说明

1、压力性能测试

shell 复制代码 
# 打开另一个终端，切换目录 
[root@bogon ~]# cd /usr/local/tomcat

# 进行压力性能测试

[root@bogon tomcat]# ab -n 1000 -c 100 -p data.json -T application/json http://localhost:8080/course/search.do?page=1&pageSize=10
[1] 3469
[root@bogon tomcat]# This is ApacheBench, Version 2.3 <$Revision: 1430300 $>
Copyright 1996 Adam Twiss, Zeus Technology Ltd, http://www.zeustech.net/
Licensed to The Apache Software Foundation, http://www.apache.org/

Benchmarking localhost (be patient)
Completed 100 requests
Completed 200 requests
Completed 300 requests
Completed 400 requests
Completed 500 requests
[root@bogon tomcat]# Completed 600 requests
Completed 700 requests
Completed 800 requests
Completed 900 requests
Completed 1000 requests
Finished 1000 requests


Server Software:        
Server Hostname:        localhost
Server Port:            8080

Document Path:          /course/search.do?page=1
Document Length:        2141 bytes

Concurrency Level:      100
Time taken for tests:   85.063 seconds
Complete requests:      1000
Failed requests:        0
Write errors:           0
Total transferred:      2304000 bytes
Total body sent:        188000
HTML transferred:       2141000 bytes
Requests per second:    11.76 [#/sec] (mean)
Time per request:       8506.271 [ms] (mean)
Time per request:       85.063 [ms] (mean, across all concurrent requests)
Transfer rate:          26.45 [Kbytes/sec] received
                        2.16 kb/s sent
                        28.61 kb/s total

Connection Times (ms)
              min  mean[+/-sd] median   max
Connect:        0    0   1.1      0       7
Processing:   600 8015 1336.4   8250   16415
Waiting:      595 8014 1337.4   8250   16415
Total:        603 8015 1335.8   8250   16415

Percentage of the requests served within a certain time (ms)
  50%   8250
  66%   8487
  75%   8581
  80%   8639
  90%   8775
  95%   8915
  98%   9106
  99%   9438
 100%  16415 (longest request)
[root@bogon tomcat]# 
[1]+  完成                  ab -n 1000 -c 100 -p data.json -T application/json http://localhost:8080/course/search.do?page=1

2、压力 性能测试结果说明

指标 含义
Server Software 服务器软件
Server Hostname 主机名
Server Port 端口号
Document Path 测试的页面
Document Length 测试的页面大小
Concurrency Level 并发数
Time taken for tests 整个测试持续的时间
Complete requests 完成的请求数量
Failed requests 失败的请求数量，这里的失败是指请求的连接服务器、发送数据、接收数据等环节发生异常，以及无响应后超时的情况。
Write errors 输出错误数量
Total transferred 整个场景中的网络传输量，表示所有请求的响应数据长度总和，包括每个http响应数据的头信息和正文数据的长度。
HTML transferred 整个场景中的HTML内容传输量，表示所有请求的响应数据中正文数据的总和
Requests per second 每秒钟平均处理的请求数（相当于 LR 中的 每秒事务数）这便是我们重点关注的吞吐率，它等于：Complete requests / Time taken for tests
Time per request 每个线程处理请求平均消耗时间（相当于 LR 中的 平均事务响应时间）用户平均请求等待时间
Transfer rate 平均每秒网络上的流量
Percentage of the requests served within a certain time (ms) 指定时间里，执行的请求百分比

3、压力 性能测试 重要指标

参数 指数说明
Requests per second 吞吐率:服务器并发处理能力的量化描述，单位是reqs/s，指的是在某个并发用户数下单位时间内处理的请求数。某个并发用户数，下单位时间内能处理的最大请求数，称之为最大吞吐率。这个数值表示当前机器的整体性能，值越大越好。
Time per request 用户平均请求等待时间：从用户角度看，完成一个请求所需要的时间
Time per request:across all concurrent requests 服务器平均请求等待时间：服务器完成一个请求的时间
Concurrency Level 并发用户数

三、Tomcat专题 - Tomcat性能调优 - JVM内存参数调优

1、JVM 参数调优

Tomcat 是一款 Java 应用，那么 JVM 的配置便与其运行性能密切相关，而 JVM 优化的重点则集中在内存分配和 GC 策略的调整上，因为内存会直接影响服务的运行效率和吞吐量，JVM垃圾回收机制则会不同程度地导致程序运行中断。可以根据应用程序的特点，

选择不同的垃圾回收策略，调整 JVM 垃圾回收策略，可以极大减少垃圾回收次数，提升垃圾回收效率，改善程序运行性能。

2、JVM 内存参数

参数 参数作用 优化建议
-server 启动Server，以服务端模式运行， 服务端模式建议，开启
-Xms 最小堆内存 建议与-Xmx设置相同
-Xmx 最大堆内存 建议设置为可用内存的80%
-XX:MetaspaceSize 元空间初始值
-XX:MaxMetaspaceSize 元空间最大内存 默认无限
-XX:MaxNewSize 新生代最大内存 默认16M
-XX:NewRatio 年轻代和老年代大小比值，取值为整数，默认为2 不建议修改
-XX:SurvivorRatio Eden区与Survivor区大小的比值，取值为整数，默认为8 不建议修改

3、 JVM 参数调优 示例演示

shell 复制代码 
# 打开一个终端，切换目录 
[root@bogon ~]# cd /usr/local/tomcat

# 关闭tomcat
[root@bogon tomcat]# ./apache-tomcat-8.5.42/bin/shutdown.sh 

# 查看本地内存使用情况
[root@bogon tomcat]# free
              total        used        free      shared  buff/cache   available
Mem:        1014756      441968      311420        1784      261368      432512
Swap:       2097148      178688     1918460

# 设置 JVM 参数后，再次启动 tomcat 
JAVA_OPTS="-server -Xms2048m -Xmx2048m -XX:MetaspaceS1ze=256m -XX:MaxMetaspaceSize=512m -XX:SurvivorRatio=8"

# 打开并编辑 catalina.sh 文件
[root@bogon tomcat]# [root@bogon tomcat]# vim ./apache-tomcat-8.5.42/bin/catalina.sh

# 在 catalina.sh 文件中，根据自己物理内存大小而设置。
JAVA_OPTS="-server -Xms1024m -Xmx1024m -XX:MetaspaceSize=256m -XX:MaxMetaspaceSize=512m -XX:SurvivorRatio=8"

# 启动tomcat
[root@bogon tomcat]# ./apache-tomcat-8.5.42/bin/startup.sh 

# 查看tomcat运行日志
[root@bogon tomcat]# tail -f ./apache-tomcat-8.5.42/logs/catalina.out

# 第一次测试：
[root@bogon tomcat]# ab -n 1000 -c 100 -p data.json -T application/json http://localhost:8080/course/search.do?page=1&pageSize=10

Requests per second:    11.76 [#/sec] (mean)
Time per request:       8506.271 [ms] (mean)

# 第二次测试：
[root@bogon tomcat]# ab -n 1000 -c 100 -p data.json -T application/json http://localhost:8080/course/search.do?page=1&pageSize=10

Requests per second:    11.97 [#/sec] (mean)
Time per request:       8354.323 [ms] (mean)

# 第三次测试：
[root@bogon tomcat]# ab -n 1000 -c 100 -p data.json -T application/json http://localhost:8080/course/search.do?page=1&pageSize=10

Requests per second:    12.94 [#/sec] (mean)
Time per request:       7730.400 [ms] (mean)


# 查看当前 tomcat 运行的进程 id 
[root@bogon tomcat]# ps -ef | grep tomcat

# 查看 堆内存使用情况（8021 是 tomcat 进程 id）
[root@bogon tomcat]# jmap -heap 8021

四、Tomcat专题 - Tomcat性能调优 - JVM垃圾收集器介绍

1、 GC 垃圾回收 策略。JVM 垃圾回收性能有以下两个主要的指标:

  • 吞吐量:工作时间(排除Gc时间)占总时间的百分比，工作时间并不仅是程序运行的时间，还包含内存分配时间。
  • 暂停时间:测试时间段内，由垃圾回收导致的应用程序停止响应次数/时间。

2、在 sun 公司推出的 HotSpotJVM 中，包含以下几种不同类型的垃圾收集器:

垃圾收集器 含义说明
串行收集器 (serial Collector) 采用单线程执行所有的垃圾回收工作， 适用于单核cpu服务器，无法利用多核硬件的优势
并行收集器 (Parallel Collector) 又称为吞吐量收集器， 以并行的方式执行年轻代的垃圾回收，该方式可以显著降低垃圾回收的开销(指多条垃圾收集线程并行工作，但此时用户线程仍然处于等待状态)。适用于多处理器或多线程硬件上运行的数据量较大的应用
并发收集器 (Concurrent Collector) 以并发的方式执行大部分垃圾回收工作，以缩短垃圾回收的暂停时间。适用于那些响应时间优先于吞吐量的应用，因为该收集器虽然最小化了暂停时间(指用户线程与垃圾收集线程同时执行,但不一定是并行的，可能会交替进行)，但是会降低应用程序的性能
CMS收集器 (Concurrent Mark sweep Collector) 并发标记清除收集器，适用于那些更愿意缩短垃圾回收暂停时间并且负担的起与垃圾回收共享处理器资源的应用
G1收集器 (Garbage-First Garbage Collector) 适用于伙容量内存的多核服务器可以在满足垃圾回收暂停时间目标的同时，以最大可能性实现高吞吐量(JDK1.7之后）

3、不同的应用程序，对于垃圾回收会有不同的需求。JVM 会根据运行的平台、服务器资源配置情况选择合适的垃圾收集器、堆内存大小及运行时编译器。如无法满足需求，参考以下准则:

  • A、程序数据量较小，选择串行收集器。
  • B、应用运行在单核处理器上且没有暂停时间要求，可交由 JVM 自行选择或选择串行收集器，
  • C、如果考虑应用程序的峰值性能， 没有暂停时间要求，可以选择并行收集器。
  • D、如果应用程序的响应时间比整体吞吐量更重要，可以选择并发收集器。[

4、串行、并行收集器工作线程、GC线程图。

五、 Tomcat专题 - Tomcat性能调优 - 垃圾收集器配置调整

1、查看 tomcat 中的默认的垃圾收集器:

在 tomcat/bin/catalina.sh 的配置中，加入如下配置

shell 复制代码 
# 打开一个终端，切换目录 
[root@bogon ~]# cd /usr/local/tomcat

# 关闭tomcat
[root@bogon tomcat]# ./apache-tomcat-8.5.42/bin/shutdown.sh 

# 设置 GC 垃圾 参数后，再次启动 tomcat 

# 打开并编辑 catalina.sh 文件
[root@bogon tomcat]# [root@bogon tomcat]# vim ./apache-tomcat-8.5.42/bin/catalina.sh

# 设置 GC 垃圾 参数

JAVA_OPTS="-Djava.rmi.server.hostname=192.168.1.107 -Dcom.sun.management.jmxremote.port=8999 -Dcom.sun.management.jmxremote.rmi.port=8999 -Dcom.sun.management.jmxremote.ssl=false -Dcom.sun.management.jmxremote.authenticate=false"


JAVA_OPTS="-server -Xms1024m -Xmx1024m -XX:MetaspaceSize=256m -XX:MaxMetaspaceSize=512m  -XX:SurvivorRatio=8  -Djava.rmi.server.hostname=192.168.1.107 -Dcom.sun.management.jmxremote.port=8999 -Dcom.sun.management.jmxremote.rmi.port=8999 -Dcom.sun.management.jmxremote.ssl=false -Dcom.sun.management.jmxremote.authenticate=false"


# 启动tomcat
[root@bogon tomcat]# ./apache-tomcat-8.5.42/bin/startup.sh 

# 查看tomcat运行日志
[root@bogon tomcat]# tail -f ./apache-tomcat-8.5.42/logs/catalina.out

2、打开 jconsole 查看远程的 tomcat 的概要信息( C:\Java\jdk1.8.0_131\bin\jconsole.exe )

连接远程 tomcat ( Java 监视和管理控制台-192.168.1.107:8999 )

3、GC 垃圾回收参数配置：

参数 描述
-XX:+UseserialGC 启用串行收集器
-XX:+UseParallelcC 启用并行垃圾收集器，配置了该选项，那么-xx:+useparalleloldcc默认启用
-XX:+UseParalleloldGC Fu11GC采用并行收集，默认禁用。如果设置了 -xx:+useparallelGc则自动启用
-XX:+UseParNewGC 年轻代采用并行收集器，如果设置了-xx:+UseconcMarksweepcc选项，自动启用
-XX:ParallelGCThreads 年轻代及老年代垃圾回收使用的线程数。默认值依赖于JVM使用的cpu个数
XX:+UseConcMarksweepGC 对于老年代，启用cs垃圾收集器。 当并行收集器无法满足应用的延迟需求是，推荐使用cMs或G1收集器, 启用该选项后-Xx:+useParNewGc 自动启用，
-XX:+UseG1GC 启用G1收集器。 G1是服务器类型的收集器 ， 用于多核、大内存的机器。它在保持高吞吐量的情况下,高概率满足cc暂停时间的目标，

4、可以在 tomcat/bin/catalina.sh 的脚本中 ，追加如下配置，配置 GC 垃圾回收参数。

shell 复制代码 
JAVA_OPTS="-XX:+UseConcMarkSweepGC -XX:+PrintGCDetails"

5、可以在测试的时候，将参数调整之后，将 GC 的信息打印出来，便于进行参数调整提供依据，具体参数如下:

选项 描述
-XX:+PrintGC 打印每次GC的信息
-XX:+PrintGCApplicationConcurrentTime 打印最后一次暂停之后所经过的时间，即响应并发执行的时间
-XX:+PrintGcApplicationstoppedTime 打印GC时应用暂停时间
-XX:+PrintGCDatestamps 打印每次GC的日期戳
-XX:+PrintGcDetails 打印每次GC的详细信息
-XX:+PrintGCTaskTimestamps 打印每个GC工作线程任务的时间戳
-XX:+PrintGcTimestamps 打印每次GC的时间截

6、设置 GC 垃圾回收参数，重新启动 tomcat 进行测试。

shell 复制代码 
# 打开一个终端，切换目录 
[root@bogon ~]# cd /usr/local/tomcat

# 查询 tomcat 进程的 PID 
ps -ef | grep tomcat 

# 杀死 tomcat 进程 
kill -9 PID


# 关闭tomcat
[root@bogon tomcat]# ./apache-tomcat-8.5.42/bin/shutdown.sh 

# 设置 GC 垃圾 参数后，再次启动 tomcat 

# 打开并编辑 catalina.sh 文件
[root@bogon tomcat]# [root@bogon tomcat]# vim ./apache-tomcat-8.5.42/bin/catalina.sh

# 设置 GC 垃圾 参数

JAVA_OPTS="-XX:+UseConcMarkSweepGC -XX:+PrintGCDetails"


JAVA_OPTS="-server -Xms1024m -Xmx1024m -XX:MetaspaceSize=256m -XX:MaxMetaspaceSize=512m  -XX:SurvivorRatio=8  -XX:+UseConcMarkSweepGC -XX:+PrintGCDetails   -Djava.rmi.server.hostname=192.168.1.107 -Dcom.sun.management.jmxremote.port=8999 -Dcom.sun.management.jmxremote.rmi.port=8999 -Dcom.sun.management.jmxremote.ssl=false -Dcom.sun.management.jmxremote.authenticate=false"


# 启动 tomcat
[root@bogon tomcat]# ./apache-tomcat-8.5.42/bin/startup.sh 

# 查看tomcat运行日志
[root@bogon tomcat]# tail -f ./apache-tomcat-8.5.42/logs/catalina.out

六、Tomcat专题 - Tomcat性能调优 - 链接器配置调整

1、Tomcat 配置调优

调整 tomcat/conf/server.xml 中关干链接器的配置可以提升应用服务器的性能，

参数 说明
maxConnections 最大连接数，当到达该值后，服务器接收但不会处理更多的请求， 额外的请求将会阻塞直到连接数低于maxconnections。可通过u1imit -a查看服务器限制。对于cpu要求更高(计算型)时，建议不要配置过大;对于cpu要求不是特别高时，建议配置在2000左右。当然这个需要服务器硬件的支持
maxThreads 最大线程数，需要根据服务器的硬件情况，进行一个合理的设置
acceptCount 最大排队等待数，当服务器接收的请求数量到达maxconnections，此时Tomcat会将后面的请求，存放在任务队列中进行排序，acceptcount指的就是任务队列中排队等待的请求数。-台Tomcat的最大的请求处理数量，是 maxConnections + acceptCount。

2、tomcat/conf/server.xml 中，设置参数，进行调优测试。

shell 复制代码 
# 打开一个终端，切换目录 
[root@bogon ~]# cd /usr/local/tomcat

# 查询 tomcat 进程的 PID 
ps -ef | grep tomcat 

# 杀死 tomcat 进程 
kill -9 PID


# 关闭tomcat
[root@bogon tomcat]# ./apache-tomcat-8.5.42/bin/shutdown.sh 

# 设置 tomcat 链接器配置调整

# 打开并编辑 tomcat/conf/server.xml 文件

[root@bogon tomcat]# vim ./apache-tomcat-8.5.42/conf/server.xml 

   <!-- tomcat 调优设置 -->
   <Connector port="8080" protocol="HTTP/1.1"
               connectionTimeout="20000"
               redirectPort="8443"
                maxConnections="1000"
                maxThreads="500"
                acceptCount="200"
    />


# 启动 tomcat
[root@bogon tomcat]# ./apache-tomcat-8.5.42/bin/startup.sh 

# 查看tomcat运行日志
[root@bogon tomcat]# tail -f ./apache-tomcat-8.5.42/logs/catalina.out

上一节关联链接请点击

# 利刃出鞘_Tomcat 核心原理解析（九）

# 利刃出鞘_Tomcat 核心原理解析（十）-- Tomcat 性能调优--1

相关推荐
xlsw_3 小时前
java全栈day20--Web后端实战(Mybatis基础2)
java·开发语言·mybatis
神仙别闹4 小时前
基于java的改良版超级玛丽小游戏
java
黄油饼卷咖喱鸡就味增汤拌孜然羊肉炒饭4 小时前
SpringBoot如何实现缓存预热？
java·spring boot·spring·缓存·程序员
暮湫5 小时前
泛型（2）
java
超爱吃士力架5 小时前
邀请逻辑
java·linux·后端
南宫生5 小时前
力扣-图论-17【算法学习day.67】
java·学习·算法·leetcode·图论
转码的小石5 小时前
12/21java基础
java
李小白665 小时前
Spring MVC(上)
java·spring·mvc
GoodStudyAndDayDayUp5 小时前
IDEA能够从mapper跳转到xml的插件
xml·java·intellij-idea
装不满的克莱因瓶6 小时前
【Redis经典面试题六】Redis的持久化机制是怎样的？
java·数据库·redis·持久化·aof·rdb
热门推荐
01〔AI 绘画〕Stable Diffusion 之 解决绘制多人或面部很小的人物时面部崩坏问题 篇02ARM学习（31）编译器对overlay方式的支持03玄机平台应急响应—webshell查杀04DisplayPort AltMode On Type-c协议_Ver2.0(学习笔记)05校验 GPT-4 真实性的三个经典问题：快速区分 GPT-3.5 与 GPT-4，并提供免费测试网站06Docker 夺命连环 15 问076个主流的工业3D管道设计软件08基于大语言模型（LLM）的合成数据生成、策展和评估的综述09(欧拉)openEuler系统添加网卡文件配置流程、(欧拉)openEuler系统手动配置ipv6地址流程、(欧拉)openEuler系统网络管理说明10树莓派 5 AI 套件（Hailo-8L）使用教程