面试官:如何实现动态线程池的任务编排?

在开始聊动态线程池如何实现任务编排前,咱们先给大家聊聊什么是动态线程池?以及为什么需要任务编排?

1.动态线程池

定义:动态线程池是在程序运行期间,动态调整线程池参数而无需重启程序的技术。

1.1 特性分析

动态线程池主要有以下三个特点:

  1. 可配置:支持运行时动态调整线程池参数,如核心线程数、最大线程数,并且修改后无需重启服务即可生效。
  2. 可监控 :动态线程池内置了全面的运行时监控能力,能够定时采集并暴露线程池的多维度指标,帮助运维和开发人员实时掌握线程池的健康状况。监控指标主要有以下几个:
    • 线程维度:当前线程数、活跃线程数、最大线程数、任务完成数、任务执行异常数等。
    • 队列维度:队列当前大小、队列剩余容量等。
    • 任务维度:任务提交速率、任务执行耗时(TP99、TP999等)、任务等待耗时、任务拒绝次数等。
  3. 可预警 :动态线程池提供了丰富且及时的预警机制,能够在线程池出现潜在风险或异常行为时,第一时间通知到相关负责人。
    • 预警维度
      • 配置变更通知:当线程池配置项在配置中心被修改时,会发送通知确认变更。
      • 活性报警:当线程池的活跃度(活跃线程数 / 最大线程数)超过设定阈值时触发。
      • 队列容量报警:当任务队列的使用率(当前大小 / 队列容量)超过设定阈值时触发。
      • 拒绝策略触发报警:当线程池因队列满和线程满而触发拒绝策略,拒绝新任务时立即报警。
      • 任务执行/等待超时报警:当任务的执行时间或等待时间超过设定的超时时间时触发。
    • 通知渠道
      • 原生支持:企业微信、钉钉、飞书、邮件等多种主流办公通讯工具。
      • 高扩展性:提供 SPI 接口,允许用户接入自定义的报警通知平台。

1.2 动态线程池实现

目前国内最知名的动态线程池开源实现技术是美团的 DynamicTP,官方地址:dynamictp.cn/

2.任务编排

定义 :任务编排(Task Orchestration)是指管理和控制多个任务的执行流程,确保它们按照预定的顺序正确执行

在复杂的业务场景中,任务间通常存在依赖关系,也就是某个任务会依赖另一个任务的执行结果,在这种情况下,我们需要通过任务编排,来确保任务按照正确的顺序进行执行。

例如,以下任务的执行顺序:

其中,任务二要等任务一执行完才能执行,而任务四要等任务二和任务三全部执行完才能执行。

3.动态线程池任务编排

动态线程池的任务编排最灵活、也最推荐的是使用:CompletableFuture + DynamicTP 实现动态线程池的任务编排

具体实现

我们可以直接将 DynamicTP 结合 CompletableFutrue 进行使用,从而实现任务编排。

CompletableFutrue 提供的方法有很多,但最常用和最实用的核心方法只有以下几个:

接下来,使用 CompletableFuture 实现上述 4 个任务的编排(任务二要等任务一执行完才能执行,而任务四要等任务二和任务三全部执行完才能执行):

java 复制代码
// 动态线程池
@Autowired
@Qualifier("dtpExecutor1")
private DtpExecutor dtpExecutor;

@RequestMapping("/dtp")
public String dtp() {
    // 任务一:返回 "Task 1 result"
    CompletableFuture<String> task1 = CompletableFuture.supplyAsync(() -> {
        try {
            // 模拟耗时操作
            Thread.sleep(1000);
        } catch (InterruptedException e) {
            Thread.currentThread().interrupt();
            throw new RuntimeException(e);
        }
        return "Task 1 result";
    }, dtpExecutor);
    // 任务二:依赖任务一,返回 "Task 2 result" + 任务一的结果
    CompletableFuture<String> task2 = task1.handleAsync((result1, throwable) -> {
        try {
            // 模拟耗时操作
            Thread.sleep(1000);
        } catch (InterruptedException e) {
            Thread.currentThread().interrupt();
            throw new RuntimeException(e);
        }
        return "Task 2 result " + result1;
    }, dtpExecutor);
    // 任务三:和任务一、任务二并行执行,返回 "Task 3 result"
    CompletableFuture<String> task3 = CompletableFuture.supplyAsync(() -> {
        try {
            // 模拟耗时操作
            Thread.sleep(800); // 任务三可能比任务二先完成
        } catch (InterruptedException e) {
            Thread.currentThread().interrupt();
            throw new RuntimeException(e);
        }
        return "Task 3 result";
    }, dtpExecutor);
    // 任务四:依赖任务二和任务三,等待它们都完成后执行,返回 "Task 4 result" + 任务二和任务三的结果
    CompletableFuture<String> task4 = CompletableFuture.allOf(task2, task3)
            .handleAsync((res, throwable) -> {
                try {
                    // 这里不需要显式等待,因为 allOf 已经保证了它们完成
                    return "Task 4 result with " + task2.get() + " and " + task3.get();
                } catch (Exception e) {
                    throw new RuntimeException(e);
                }
            }, dtpExecutor);
    // 获取任务四的结果并打印
    String finalResult = task4.join();
    System.out.println(finalResult);
}

小结

日常项目开发中,一定会使用到线程池,而动态线程池具备可配置、可观测、可告警等功能是项目开发的首选。但在使用动态线程池时就会有任务执行顺序的问题,此时就可以借助 CompletableFuture 一起执行来保证程序执行的正确性。

本文已收录到我的面试小站 www.javacn.site,其中包含的内容有:场景题、SpringAI、SpringAIAlibaba、并发编程、MySQL、Redis、Spring、Spring MVC、Spring Boot、Spring Cloud、MyBatis、JVM、设计模式、消息队列、Dify、Coze、AI常见面试题等。

相关推荐
脚踏实地的大梦想家4 小时前
【Go】P2 Golang 常量与变量
开发语言·后端·golang
lozhyf4 小时前
能发弹幕的简单视频网站
java·spring boot·后端
SamDeepThinking4 小时前
Cursor集成MCP MySQL服务器完整配置指南
后端·ai编程·cursor
微露清风4 小时前
系统性学习数据结构-第三讲-栈和队列
java·数据结构·学习
小爱同学_4 小时前
从前端模块化历史到大厂面试题
前端·javascript·面试
AAA修煤气灶刘哥4 小时前
ES 地理查询玩明白,产品要的 “附近的店” 再也难不倒我!(附 DSL+Java 实战)
java·后端·elasticsearch
shark_chili5 小时前
深入理解CPU缓存:编写高性能Java代码的终极指南
后端
十八旬5 小时前
苍穹外卖项目实战(day-5完整版)-记录实战教程及问题的解决方法
java·开发语言·spring boot·redis·mysql
m0_749299955 小时前
Nginx主配置文件
java·服务器·nginx