Undertow 可观测性最佳实践

Undertow 介绍

Undertow 是 Red Hat 开发的一款高性能、灵活的 Java Web 服务器,也是 WildFly 应用服务器的嵌入式组件。它支持非阻塞 I/O,基于 NIO 构建,并提供了 HTTP/2、WebSockets 和 Servlet 4.0 等现代 Web 技术支持。Undertow 以其轻量级、嵌入式友好 的特性而闻名,开发者可以轻松将其集成到自己的应用程序中,也可以作为独立服务器运行。它的模块化设计允许用户按需选择所需功能,从而实现低资源占用和高吞吐量。

Undertow 可观测性在现代应用中至关重要。APM 虽能展示 HTTP 请求的端到端耗时,但它们无法直接揭示 Undertow 内部处理请求的细节。

Undertow 线程池配置不当可能导致:

  • 请求排队:线程不足时,新请求等待处理,APM 中表现为 HTTP 请求耗时增加。
  • 资源浪费或瓶颈转移:线程过多会增加上下文切换开销,甚至将压力转嫁给下游服务。

因此,监控 Undertow 的 XNIO Worker 线程数、活跃线程数、任务队列大小等指标,能有效识别请求处理瓶颈,确保系统高效稳定运行。

观测云

观测云是一款专为 IT 工程师打造的全链路可观测产品,它集成了基础设施监控、应用程序性能监控和日志管理,为整个技术栈提供实时可观察性。这款产品能够帮助工程师全面了解端到端的用户体验追踪,了解应用内函数的每一次调用,以及全面监控云时代的基础设施。此外,观测云还具备快速发现系统安全风险的能力,为数字化时代提供安全保障。

部署 DataKit

DataKit 是一个开源的、跨平台的数据收集和监控工具,由观测云开发并维护。它旨在帮助用户收集、处理和分析各种数据源,如日志、指标和事件,以便进行有效的监控和故障排查。DataKit 支持多种数据输入和输出格式,可以轻松集成到现有的监控系统中。

登录观测云控制台,在「集成」 - 「DataKit」选择对应安装方式,当前采用 Linux 主机部署 DataKit。

采集器配置

DataKit 配置

DataKit 安装完成后,可以自定义开启采集器,本集成需要开启如下两个采集器。

开启 StatsD 采集器

bash 复制代码
# 开启采集器
cp /usr/local/datakit/conf.d/statsd/statsd.conf.sample /usr/local/datakit/conf.d/statsd/statsd.conf
# 重启 Datakit
datakit service -R

开启链路采集

bash 复制代码
# 开启采集器
cp /usr/local/datakit/conf.d/ddtrace/ddtrace.conf.sample /usr/local/datakit/conf.d/ddtrace/ddtrace.conf
# 重启 Datakit
datakit service -R

客户端配置

场景环境:

makefile 复制代码
jdk: 1.8.0_361 
spring-boot: 2.7.12-SNAPSHOT
undertow:2.2.24.Final 

备注: 不同版本指标可能会有差异。

以 Java Demo 应用为例,使用 undertow 作为 web 容器配置。

xml 复制代码
##启用 Undertow pom 配置
<dependency>
   <groupId>org.springframework.boot</groupId>
   <artifactId>spring-boot-starter-web</artifactId>
   <exclusions>
      <exclusion>
         <groupId>org.springframework.boot</groupId>
         <artifactId>spring-boot-starter-tomcat</artifactId>
      </exclusion>
   </exclusions>
</dependency>
<dependency>
   <groupId>org.springframework.boot</groupId>
   <artifactId>spring-boot-starter-undertow</artifactId>
</dependency>

Demo 项目中 undertow 运行配置如下:

ini 复制代码
server.port=8080
server.undertow.threads.worker=10
server.undertow.threads.io=2

接入 APM ,配置采集 jmx ,应用启动增加如下参数,启动命令如下:

ini 复制代码
java \
-javaagent:/xxx/dd-java-agent.jar \
-Ddd.agent.port=9529 \
-Ddd.service=demo \
-Ddd.jmxfetch.check-period=1000 \
-Ddd.jmxfetch.enabled=true \
-Ddd.jmxfetch.config.dir=/xxx/ \
-Ddd.jmxfetch.config=undertow.yaml \
-jar xxxx.jar 

dd-java-agent.jar Guance 版下载地址:

less 复制代码
wget -O dd-java-agent.jar 'https://static.guance.com/dd-image/dd-java-agent.jar'

其中 -Ddd.jmxfetch.config.dir 和 -Ddd.jmxfetch.config=undertow.yaml 需要把 undertow.yaml 放到 Java 启动可以读取到的地址。

undertow.yaml 内容如下,无需修改。

yaml 复制代码
init_config:

instances:
  - jvm_direct: true
    name: undertow-monitoring
    collect_default_jvm_metrics: false
    collect_default_metrics: false
    refresh_beans: 60
    conf:
      - include:
          bean_regex: "org.xnio:type=Xnio,provider="nio",worker="XNIO-.*""
          attribute:
            IoThreadCount:
              metric_type: gauge
              alias: undertow.io.thread.count
      - include:
          bean_regex: "jboss.threads:name="XNIO-.*",type=thread-pool"
          attribute:
            CorePoolSize:
              metric_type: gauge
              alias: undertow.core.pool.size
            MaximumPoolSize:
              metric_type: gauge
              alias: undertow.max.pool.size
            ActiveCount:
              metric_type: gauge
              alias: undertow.active.count
            LargestPoolSize:
              metric_type: gauge
              alias: undertow.largest.pool.size
            CompletedTaskCount:
              metric_type: gauge
              alias: undertow.completed.task.count
            PoolSize:
              metric_type: gauge
              alias: undertow.pool.size
            GrowthResistance:
              metric_type: gauge
              alias: undertow.growth.resistance
            MaximumQueueSize:
              metric_type: gauge
              alias: undertow.max.queue.size
            LargestQueueSize:
              metric_type: gauge
              alias: undertow.largest.queue.size
            SubmittedTaskCount:
              metric_type: gauge
              alias: undertow.submitted.task.count
            RejectedTaskCount:
              metric_type: gauge
              alias: undertow.rejected.task.count
            SpinMissCount:
              metric_type: gauge
              alias: undertow.spin.miss.count
            QueueSize:
              metric_type: gauge
              alias: undertow.queue.size
            KeepAliveTimeSeconds:
              metric_type: gauge
              alias: undertow.keep.alive.time.seconds

关键指标

指标集:undertow

指标 描述 用途
active_count 活跃线程数 当前线程池中正在执行任务的线程数量。
completed_task_count 已完成任务数 线程池自启动以来已完成的任务总数。
core_pool_size 核心线程池大小 线程池中始终保持活动的线程数,即使它们处于空闲状态。
io_thread_count I/O 线程数 Undertow 底层 XNIO 框架用于处理网络 I/O 事件(如接受连接、读写数据)的线程数量。
keep_alive_time_seconds 线程保持活跃时间 当线程数超过核心线程数时,多余的空闲线程在被终止前可以等待的时间。
largest_pool_size 历史最大线程池大小 线程池自启动以来达到的最大线程数量。
largest_queue_size 历史最大队列大小 任务队列自启动以来达到的最大任务数量。
max_pool_size 最大线程池大小 线程池允许创建的最大线程数量。这是一个关键的配置参数,限制了并发处理能力。
max_queue_size 最大队列大小 任务队列可以容纳的最大任务数量。
pool_size 当前线程池大小 当前线程池中的总线程数量(包括活跃和空闲线程)。
queue_size 当前队列大小 当前在任务队列中等待被执行的任务数量。持续增长通常表示处理能力不足。
rejected_task_count 被拒绝任务数 由于线程池已满(线程数达到最大且队列已满)或拒绝策略触发,而被拒绝执行的任务数量。这是一个重要的过载指标。

场景视图

登录观测云控制台,点击「场景」 -「新建仪表板」,输入 "Undertow", 选择 "Undertow监控视图",点击 "确定" 即可添加视图。

监控器(告警)

Undertow 排队请求数监控

简要描述:检测指标 queue_size , 5分钟内超过100触发告警,如下图:

Undertow 线程池使用率监控

简要描述:检测指标 pool_size/max_pool_size , 5分钟内超过90% 触发告警,如下图:

总结

这些指标提供了 Undertow 线程池运行状态的全面视图,帮助开发者和运维人员监控和优化线程池的性能。通过合理配置和监控这些指标,可以确保线程池在高并发场景下高效运行,同时避免资源浪费和性能瓶颈。

相关推荐
可观测性用观测云3 天前
Promtail 对接日志最佳实践
监控
试着5 天前
零基础学习性能测试第二章-JVM如何监控
jvm·学习·零基础·性能测试·监控
小马爱打代码8 天前
Spring Boot 监控:AOP vs Filter vs Java Agent
spring boot·监控
core51211 天前
prometheus+grafana接入nginx实战
nginx·grafana·prometheus·监控·接入·vts·vtx
rocksun22 天前
OneUptime MCP服务器:AI原生可观测性融入你的工作流程
人工智能·监控
东坡白菜1 个月前
最通俗的前端监控方案
前端·监控
用户6990304848751 个月前
海康web调试demo静态样式,看起来便于调试省个事
监控
可观测性用观测云1 个月前
Trino 可观测性最佳实践
监控