基于arthas的一次提升定时任务TPS总结

1. 问题描述

后台服务班次转换通过定时任务,每五分钟执行一次,每日1000班次,要跑将近4,5小时,平均下来1分钟仅能跑几个班次。单个班次执行约20-30s。班次转换速率严重滞后,月底重跑多天报表,可能严重拖慢报表生成进度。

2. 问题定位及分析

2.1. 服务器负载分析

定时任务跑批次期间,通过top命令查看服务负载情况,CPU负载仅23.3%,内存负载13.2GB约56%,并不存在瓶颈情况。

2.2. JVM负载分析

使用Arthas工具(dashboard),查看cms服务班次跑批期间的jvm负载情况,具体情况如下: (备注:原默认垃圾回收器ps_survivor占用98%,切换g1gc,由jvm自行分配eden和s区的大小,以及对象晋升的次数) Heap情况:

  • 总堆内存: 12GB (12288M)
  • 已使用 : 3.8GB (3949M) - 32.14% 使用率
  • 年轻代 : 3.6GB (3668M) - 占堆的 47.74%
  • 老年代 : 221M - 仅占堆的 1.80%

Gc情况:

  • 年轻代GC次数: 65次,时间1700ms
  • 老年带GC次数0

根据Arthas工具dashboard实时打印的结果,JVM的总体负载不高,不存在瓶颈情况。

2.3. 关键代码执行时间分析

使用Arthas工具对定时任务代码分析:

  • trace com.hkl.pos.service.impl.AtsConvertServiceImpl convertSuccessionByLock

    以下捞出关键的几种类型:

    以上截图trace结果可以得出结论:

    1. 大量耗时存在于班次的转换的方法内;
    2. 约一半的方法执行失败,获取jdbc连接超时;
    3. trace因为性能关系只统计一个层架,需要往下再定位详细方法的执行耗时;
  • trace -E com.hkl.pos.service.impl.AtsConvertServiceImpl convertSuccessionByLock|convertSuccession|convertOrder -n 1000

以上trace结果可以得出结论:主要执行耗时代码在ats_bb表执行插入数据耗时过长;

2.4. 数据库入库慢定位

markdown 复制代码
定位bb表插入慢的主要原因:
1.  数据量过大或者索引过多,锁或者外键,触发器导致插入慢;
2.  插入数据需要写数据文件、redo日志文件、undo表空间配置问题导致插入慢;

3. 优化方案与结果

3.1. 单个任务优化

3.1.1. 历史数据归档

bb表历史数据先归档处理,大大提升入库时间。

3.1.2. JDBC连接池优化

3.1.3. 长事务周期优化

将大事务拆分成小事务,查询和转换方法执行后,再进行数据库事务操作,防止大事务长时间持有占用JDBC连接。具体操作如下:

3.1.4. 优化效果

耗时统计

3.2. 引入分布式中间件(后续安排)

后续走直接生成,暂不需要进一步优化......

1. 总结

  1. 增加数据库连接数的最大连接池个数,是最直接的问题的方式。解决大量jdbc连接获取失败问题;
  2. 历史数据归档,大大降低数据库入库和删除时间;
  3. 限制每个定时任务跑固定个数(当前每5分钟定时任务500条班次任务->约每天的班次要10分钟)
  4. 拆分大事务,防止长时间占用jdbc连接;
  5. 排查定位:使用阿里开源工具Arthas,可以快速定位问题和瓶颈,且上手快。
相关推荐
阳光是sunny7 小时前
LangGraph中的Reducer是什么
前端·人工智能·后端
灯澜忆梦7 小时前
GO_并发编程---定时器
开发语言·后端·golang
阳光是sunny7 小时前
从链到图:LangGraph 入门基础全解析
前端·人工智能·后端
皮皮林5517 小时前
开源实力派,给本地 AI 装上深度调研能力,一张 3090 跑到 95.7 分!
后端
努力的小雨8 小时前
把 Windows 桌面图标做成一个会自己运转的小世界
后端
武子康8 小时前
Search Console Platform Properties 扩大 SEO 资产边界:从 Page Ranking 到 Topic Coverage(5 类误读边界 + 3 表数据层设计)
前端·人工智能·后端
腾渊信息科技公司9 小时前
Spring Boot对接MES实战:视觉检测数据自动同步方案
java·人工智能·spring boot·后端·计算机视觉·ai·软件需求
IT_陈寒10 小时前
Vue这个特性差点让我加班到凌晨,谁懂啊
前端·人工智能·后端
段一凡-华北理工大学10 小时前
向量数据库实战:选型、调优与落地~系列文章12:文本分块策略实战:chunk_size 怎么选?重叠多少?
开发语言·数据库·后端·oracle·rust·工业智能体·高炉智能化
码事漫谈11 小时前
1999年的电商前夜和2026年的AI前夜 历史押韵但从不重复
后端