tomcat 调优 - 技术栈

一、Tomcat 调优的关键领域

**连接数和线程池配置**
**JVM 配置和 GC 调优**
**Tomcat 内存调优**
**文件和网络配置**
**Tomcat 缓存和压缩设置**

二、连接数和线程池配置

Tomcat 的连接数和线程池配置对服务器的并发处理能力有直接影响。默认情况下，Tomcat 配置的最大连接数和线程数可能不足以处理高并发请求。以下是调整连接数和线程池的几个关键参数：

2.1 `server.xml` 中的配置

Tomcat 的连接数和线程池配置主要在 `conf/server.xml` 文件的 `<Connector>` 元素中进行配置。以下是几个重要的参数：

**`maxThreads`**：指定 Tomcat 线程池中最大线程数。它表示 Tomcat 可以同时处理的最大请求数。默认值为 200，生产环境中可以根据硬件资源（如 CPU 核心数）适当增加，例如设置为 400 或 500。

<Connector port="8080" protocol="HTTP/1.1"
           connectionTimeout="20000"
           maxThreads="400"
           minSpareThreads="50"
           maxSpareThreads="200"
           maxConnections="10000"
           acceptCount="200"
           ... />

**`minSpareThreads` 和 `maxSpareThreads`**：分别表示保持在空闲状态下的最小和最大线程数。`minSpareThreads` 设置为较大的值（例如 50）可以确保在高并发请求时有足够的线程可用，减少线程创建开销。
**`maxConnections`**：指定可以同时打开的最大 TCP 连接数。该参数通常与 `maxThreads` 配合使用，表示最大并发连接数。默认值为 10000，可以根据服务器负载进行调整。
**`acceptCount`**：指定在达到最大连接数后，Tomcat 能够接受的最大排队请求数。如果请求数超过该值，新请求将被拒绝。适当增加该值可以减少拒绝请求的情况。
**`connectionTimeout`**：指定连接超时时间（毫秒），即 Tomcat 等待请求数据的时间。如果请求在指定时间内没有完成，连接将被关闭。适当调整此值可以避免长时间无响应的请求占用线程资源。

2.2 线程池优化建议

根据服务器的 CPU 核心数和应用负载，合理设置 `maxThreads`。通常设置为 CPU 核心数的 2 到 4 倍。
增加 `minSpareThreads` 以减少频繁的线程创建和销毁。
如果系统资源允许，增加 `acceptCount`，避免过多请求被拒绝。

三、JVM 配置和 GC 调优

Tomcat 运行在 JVM 上，因此 JVM 的内存配置和垃圾回收（GC）策略对 Tomcat 的性能有直接影响。

3.1 JVM 内存配置

JVM 的内存配置可以通过修改 `setenv.sh`（Unix/Linux）或 `setenv.bat`（Windows）文件来实现。以下是几个常用的 JVM 参数：

**`-Xms` 和 `-Xmx`**：分别指定 JVM 堆内存的初始大小和最大大小。生产环境中，通常将这两个值设置为相同，以避免 JVM 在运行时动态调整堆大小带来的性能开销。
```
CATALINA_OPTS="-Xms2g -Xmx2g"
```
**`-XX:MaxMetaspaceSize`**：指定元空间（Metaspace）的最大大小。在 Java 8 之前是永久代（PermGen），Java 8 之后改为元空间，存储类的元数据。根据应用的类加载情况进行调整。

```bash

CATALINA_OPTS="$CATALINA_OPTS -XX:MaxMetaspaceSize=512m"

```

3.2 GC 调优

垃圾回收（GC）是 JVM 的一部分，负责回收不再使用的对象所占用的内存。选择合适的 GC 策略可以优化 Tomcat 的性能。常见的 GC 策略有：

**Parallel GC**：适用于高吞吐量场景，默认策略。使用多线程进行垃圾回收，减少 STW（Stop-The-World）时间。
```
CATALINA_OPTS="$CATALINA_OPTS -XX:+UseParallelGC"
```
**G1 GC**：适用于低延迟场景，可以更好地控制 GC 暂停时间。G1 GC 将堆划分为多个区域，进行并行和并发的垃圾回收操作，适用于大堆内存场景。
```
CATALINA_OPTS="$CATALINA_OPTS -XX:+UseG1GC -XX:MaxGCPauseMillis=200"
```

3.3 GC 调优建议

在吞吐量优先的场景下（如大批量数据处理），使用 Parallel GC。
在低延迟要求的场景下（如响应时间敏感的 Web 应用），使用 G1 GC 并设置合适的 `MaxGCPauseMillis`。
监控 GC 日志，使用工具（如 `GCViewer`）分析 GC 的频率和暂停时间，进一步优化 GC 参数。

四、Tomcat 内存调优

Tomcat 本身也有一些内存相关的配置，这些配置可以影响服务器的稳定性和性能。

4.1 堆外内存和直接内存

Tomcat 中一些组件（如 NIO Connector 和文件缓存）使用堆外内存（Direct Memory）。合理配置堆外内存可以提升性能。

**`-XX:MaxDirectMemorySize`**：设置最大直接内存大小。默认值是堆内存大小，可以根据需要调整。
```
CATALINA_OPTS="$CATALINA_OPTS -XX:MaxDirectMemorySize=1g"
```

4.2 内存泄漏检测

内存泄漏是 Java 应用中的常见问题，尤其是在长期运行的服务器中。Tomcat 提供了一些工具和机制来检测和防止内存泄漏。

**`org.apache.catalina.valves.StuckThreadDetectionValve`**：检测长时间运行的线程，防止由于某些请求长时间占用线程资源。
```
```xml
<Valve className="org.apache.catalina.valves.StuckThreadDetectionValve" threshold="60" />
```
```

五、文件和网络配置

文件和网络配置对 Tomcat 的性能也有重要影响，特别是在处理大量静态资源和大文件上传时。

5.1 文件配置

**文件上传大小限制**：通过修改 `web.xml` 文件，设置 `maxFileSize` 和 `maxRequestSize` 参数，控制文件上传大小。

<multipart-config>
    <max-file-size>10485760</max-file-size> <!-- 10MB -->
    <max-request-size>20971520</max-request-size> <!-- 20MB -->
    <file-size-threshold>0</file-size-threshold>
</multipart-config>

5.2 网络配置

**TCP 连接优化**：通过调整操作系统的网络参数（如 TCP 缓冲区大小、TIME_WAIT 超时时间等），可以优化网络性能。
**启用 NIO 或 APR 连接器**：Tomcat 支持多种连接器（如 BIO、NIO、APR），NIO 和 APR 连接器提供更高的性能和可伸缩性。可以在 `server.xml` 中启用 NIO 或 APR 连接器。
```
```xml
<Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol"
           connectionTimeout="20000"
           maxThreads="200" />
```
```

六、Tomcat 缓存和压缩设置

Tomcat 提供了一些缓存和压缩设置，可以显著提高静态内容的传输效率。

6.1 静态资源缓存

**缓存静态资源**：通过配置 `web.xml`，设置静态资源的缓存控制，减少静态资源的重复加载。

```xml
<servlet-mapping>
    <servlet-name>default</servlet-name>
    <url-pattern>*.html</url

-pattern>
</servlet-mapping>

<servlet>
    <servlet-name>default</servlet-name>
    <servlet-class>org.apache.catalina.servlets.DefaultServlet</servlet-class>
    <init-param>
        <param-name>cacheMaxSize</param-name>
        <param-value>10240</param-value> <!-- 10MB -->
    </init-param>
</servlet>
```

6.2 启用 GZIP 压缩

**GZIP 压缩**：通过在 `server.xml` 中配置压缩参数，启用 GZIP 压缩，以减少响应的大小，加快传输速度。

```xml
<Connector port="8080" protocol="HTTP/1.1"
           connectionTimeout="20000"
           redirectPort="8443"
           compression="on"
           compressionMinSize="2048"
           noCompressionUserAgents="gozilla, traviata"
           compressableMimeType="text/html,text/xml,text/plain,text/css,text/javascript,application/javascript,application/json" />
```

七、总结

对于Tomcat服务器的性能调优，可以从以下几个方面进行总结：

调整内存参数：可以增加Tomcat服务器的最大堆内存大小（Xmx）和最小堆内存大小（Xms），以提高服务器的内存使用效率。
指定GC算法：可以根据服务器的实际情况选择合适的垃圾回收算法，如串行GC（-XX:+UseSerialGC）或并行GC（-XX:+UseParallelGC）等，以提高内存的回收效率。
配置线程池：可以调整Tomcat服务器的线程池参数，如最大线程数（maxThreads）和最小线程数（minSpareThreads），以提高服务器的并发处理能力。
优化数据库连接池：可以使用连接池来管理数据库连接，如使用Tomcat自带的连接池（Tomcat JDBC Pool）或第三方连接池，以提高数据库连接的效率和资源的利用率。
启用压缩功能：可以配置Tomcat服务器启用压缩功能，如GZIP压缩（compression="on"）或Deflate压缩（compression="deflate"），以减少网络传输的数据量。
配置静态资源缓存：可以通过修改Tomcat服务器的配置文件，配置静态资源的缓存时间，如设置Cache-Control头，以减少静态资源的加载时间。
使用反向代理：可以使用反向代理服务器，如Nginx或Apache等，将部分请求转发到Tomcat服务器，以提高服务器的并发处理能力和负载均衡能力。