SequenceGenerator高并发有序顺序号生成中间件 - 架构设计文档

高并发有序顺序号生成中间件 - 架构设计文档

设计思想参考上一篇文章:高并发强一致性顺序号生成系统 -- SequenceGenerator

github:SequenceGenerator

1. 核心设计理念

本组件采用了 "Redis 主生成 + DB 异步备份 + DB 乐观锁降级" 的高可用架构设计。

  • 极致性能 :正常情况下,所有的 ID 生成请求全部由 Redis 的 Lua 脚本(或 INCR)在内存中原子完成,无锁、无阻塞。
  • 数据防丢:生成序列号后,通过线程池(或 Kafka)异步将最新值同步到 DB 中(Upsert 记录最大值)。
  • 平滑降级:当 Redis 宕机时,系统瞬间切换为 DB 乐观锁自增模式,继续提供服务。由于 DB 一直在异步备份,所以降级时不会出现序列号回退。
  • 安全恢复:当探测到 Redis 恢复后,系统冻结所有请求,从 DB 中读取当前的最大序列号来初始化 Redis,确保恢复后也是严格递增的。

2. 核心状态机 (FSM) 设计

整个系统围绕三种状态进行运转:
启动初始化
Redis 连接超时/执行异常
达到 N 次请求探活发现 Redis 恢复
DB 最大值同步到 Redis 完成
恢复期间发生异常
NORMAL
FAILOVER
RECOVERING

3. 调用流程交互图

3.1 正常模式 (NORMAL) 序列号生成流转

MySQL (备份) 异步线程池 / Kafka Redis (主) 状态机 (StateMachineManager) 客户端线程 MySQL (备份) 异步线程池 / Kafka Redis (主) 状态机 (StateMachineManager) 客户端线程 异步执行,不阻塞主线程 请求 nextId() INCR 获取最新序号 (V) 返回序号 V 提交异步写 DB 任务 (seqKey, date, V) 组装前缀返回完整 ID UPSERT ... GREATEST(curr_value, V) 写入成功

3.2 降级模式 (FAILOVER) 序列号生成流转

MySQL (降级提供服务) Redis (宕机) 状态机 (StateMachineManager) 客户端线程 MySQL (降级提供服务) Redis (宕机) 状态机 (StateMachineManager) 客户端线程 捕获异常,将状态切为 FAILOVER 请求 nextId() 尝试 INCR Timeout Exception 查询当前最大记录 返回 current_value (如 100) CAS 乐观锁 UPDATE sys_sequence SET curr_value=101 WHERE version=v 受到影响行数 = 1 (成功) 返回序号 101

3.3 恢复模式 (RECOVERING) 序列号生成流转

Redis (已恢复) MySQL 分布式锁 状态机 客户端线程 (触碰间隔 N) Redis (已恢复) MySQL 分布式锁 状态机 客户端线程 (触碰间隔 N) 状态切换为 RECOVERING (阻塞后续请求) 状态切回 NORMAL,释放锁 请求 nextId(),触发 failoverCounter % N == 0 尝试获取恢复锁 (tryLock) 获取成功 探活 (PING) PONG (存活) 读取 DB 中最大序号 (如 500) 返回 500 SET 强制重置 Redis 的值为 500 (对其 DB 进度) OK INCR 生成最新序号 (501) 501 返回序号 501

4. DB 同步策略 (DbSyncStrategy)

系统提供两种异步持久化 DB 的策略,可以通过 application.yml(file:///Users/jixu/Project/Java/SequenceGenerator/src/main/resources/application.yml) 的 sync-mode 参数灵活切换:

4.1 线程池模式 (THREAD_POOL)

  • 适用场景:单体应用、大多数微服务、对外部依赖要求少的场景。
  • 机制 :通过内置的有界队列线程池直接执行 sys_sequence 表的 Upsert 操作。
  • 防丢机制 :线程池队列打满后,通过 CallerRunsPolicy 降级为同步执行,牺牲一点性能但绝对不丢数据。

4.2 消息队列模式 (KAFKA)

  • 适用场景:超高并发写、系统本身已重度依赖 Kafka 并希望复用它来做削峰。
  • 机制 :Redis 拿到号后作为生产者将消息发入指定 Topic,由统一的 @KafkaListener 消费者进行写库。
  • 乱序容忍 :DB 端采用 ON DUPLICATE KEY UPDATE curr_value = GREATEST(curr_value, newValue) 语法,无惧消息的乱序消费,只记录最大值。
相关推荐
guodingdingh2 小时前
软件开发工作问题总结0718
java·开发语言·数据库
咖啡八杯4 小时前
GoF设计模式——解释器模式
java·后端·spring·设计模式
优橙教育4 小时前
5G网优培训 vs Java开发:转行选哪个?
java·开发语言·5g
掘金码甲哥4 小时前
这块终端神器, 必须吹爆!
后端
糖果店的幽灵4 小时前
【DeepAgents 从入门到精通】Context Management 上下文管理
java·人工智能·后端·spring·中间件·langgraph·deepagents
Csvn5 小时前
📊 SQL 入门 Day 8:集合操作 — 用 SQL 做数学里的"并交差"
后端·sql
腻害兔6 小时前
【若依项目-产品经理视角】RuoYi-Vue-Pro 源码拆解:字典、短信、邮件、通知——后台系统的“基础设施四件套“!
java·前端·vue.js·产品经理·ai编程
碎光拾影6 小时前
ARM交叉工具链各工具作用及IMX6ULL平台LED+蜂鸣器裸机程序实现
java·开发语言·数据库
CCPC不拿奖不改名6 小时前
大模型推理架构与开源生态知识整理
数据库·windows·python·架构·langchain·开源·github
Miao121317 小时前
微服务 API 测试实践:海外某民宿平台如何构建模式驱动测试基础设施
java·开发语言