1.背景及设计总览

代码的地址在: GitHub - swsm/dttask: 分布式插件化任务执行框架 ,欢迎Star❤️。

1.背景

有很多的任务,可能数量达到10万,100万,且还可能不断增加,每个任务的执行可支持自定义也可以选择内置的方式。系统必须足够稳定,尽量减少对外部的依赖。

2.系统设计

结合背景,确定系统应该采用分布式的架构,且可以灵活扩展。可以对任何任务进行分配、启动、暂停,当有某个节点宕机或者重新上线时,任务可以自动重平衡。命名本框架为dtTask。

2.1 系统架构图

2.2 dtTask的技术点

2.2.1 依赖jar

|--------------------------------|--------------|----|
| 框架 | 版本 | 说明 |
| spring-boot 系列 | 2.6.5 | |
| spring-boot-starter-data-redis | 2.6.5 | |
| netty-all | 4.1.22.Final | |
| springfox-swagger2 | 2.8.0 | |
| springfox-swagger-ui | 2.8.0 | |
| knife4j-spring-ui | 2.0.9 | |
| mybatis-plus-boot-starter | 3.5.1 | |
| mysql-connector-java | 8.0.22 | |
| guava | 31.1-jre | |
| lombok | 1.18.12 | |
| fastjson | 1.2.72 | |
| commons-collections4 | 4.4 | |
| commons-lang3 | 3.9 | |
| hutool-all | 5.8.4 | |
| j2mod | 2.3.5 | |
| | | |

2.2.2 选举

2.2.3 节点状态

2.2.4 节点角色重要逻辑

2.2.5 任务分配与执行

3.数据库设计

4.完成目标

4.1 单节点启动,本节点就是Controller

4.2 多节点启动,完成自动选举

4.3 任务按照分配策略分配各节点,各节点正常执行

4.4 对某节点进行停止、启动

4.5 当follower下线,下线节点的任务按照分配策略分配给其它节点

4.6 当controller下线,先进行选举,选举成功后,原Controller节点任务按照分配策略分配给其它节点

4.7 当新节点上线,任务按照分配策略分配任务给新节点,原任务停止执行

4.8 每个任务按照对应任务处理逻辑进行处理

4.9 以插件不重启的方式添加任务执行逻辑

相关推荐
像少年啦飞驰点、12 小时前
Java大厂面试真题:Spring Boot + Kafka + Redis 在电商场景下的实战应用
java·spring boot·redis·分布式·kafka·面试题·电商秒杀
徐先生 @_@|||13 小时前
基于Spark配置+缓存策略+Junpyter Notebook 实现Spark数据加速调试
大数据·分布式·缓存·spark
无心水13 小时前
【分布式利器:腾讯TSF】11、腾讯TSF微服务框架深度对比:全面解析TSF vs Spring Cloud vs Dubbo vs Service Mesh
分布式·spring cloud·微服务·dubbo·springcloud·service mesh·分布式利器
徐先生 @_@|||13 小时前
大数据处理框架(Hadoop VS PySpark)
大数据·hadoop·分布式·spark·k8s·yarn
Blossom.1181 天前
AI Agent智能办公助手:从ChatGPT到真正“干活“的系统
人工智能·分布式·python·深度学习·神经网络·chatgpt·迁移学习
a努力。1 天前
2026 AI 编程终极套装:Claude Code + Codex + Gemini CLI + Antigravity,四位一体实战指南!
java·开发语言·人工智能·分布式·python·面试
安科瑞小许1 天前
新能源并网中的“孤岛”与“逆流”:电力安全背后的防护技术解析
分布式·安全·能源·光伏·防逆流
米优1 天前
使用Qt实现消息队列中间件动态库封装
c++·中间件·rabbitmq
有梦想的攻城狮1 天前
kafka消息在发送时通过压缩算法进行压缩,在Broker是否会进行解压缩
分布式·kafka·压缩·lz4
小萌新大梦想1 天前
M1安装Kafka
分布式·kafka