Partition架构

优质博文:IT-BLOG-CN

Partition架构

【1】结构: Region至少3个Zone,Zone内至少两个Partition,Partition内至少1个K8S Member Cluster;

【2】故障域: 故障域及核心链路至少Zone内收敛,甚至Partition收敛。故障域之间不应该有交互(状态流等);

【3】变更规范: 不同时变更多个Zone,甚至不同时变更多个Partition;

【4】Federation:Regional调度及控制面,负责Region内资源、容量调度;

【5】应用部署: 应用副本根据可用性级别分布在多个Zone内的多个Partition;

故障域隔离FederatedHPA: 场景梳理并分级,匹配不同故障域隔离要求。

【1】应用扩容链路: 高频+核心,Partition(Cluster)故障域内收敛,单个Partition故障不影响其他Partition正常扩容;

【2】HPA参数变更链路: 低频+非核心,Region故障域内收敛,故障会影响整个Region的HPA发布变更;

【3】Cluster间Rebalance链路: 低频+非核心,Region故障域内收敛,故障会影响整个Region的容量Rebalance;

方案:

【1】HPA系统组件在Partition(Cluster)内完整部署并封闭,扩缩容链路与其它Partition完全隔离;

【2】FederatedHPA只负责Partition/Zone间的Rebalance协调与变更分发;

效果: 单个AZ、Partition及Federation的故障不影响其它AZ、Partition的应用扩缩容。

应用部署的Group(Rollout)为Region级别。由Federation控制与分发到多个Zone内的Partition。Group不同时变更多个Zone。

容量调度问题

【1】流量上涨,Zone A扩容成功率下降(其他系统正在扩容等),需要降低Zone A流量比例,扩容成功率恢复后,需要恢复流量比例关系;

【2】Zone流量比例发生倾斜,如果单个Zone故障,Zone的Capacity会比非倾斜时高,需要主动触发提前扩容Node;

【3】混合云场景,私有云Zone容量不足,将部分应用容量公有云Zone倾斜,过峰后,因成本因素,恢复原有状态;

方案:

【1】Autopilot监听各Zone的资源用量、容量、扩容成功率以及SRE运营规则;

【2】Autopilot生成流量调度结果,并下发调度;

【3】HPA感知负载变化进行扩缩;

【4】Autopilot根据当前各Zone用量更新Capacity,并指导提前Node扩容;

多机房库存问题

用户的请求保证在同一机房内完成闭环,但部分场景并不适合划分单元化,比如多机房库存扣减问题。面对多机房库存扣减问题目前的策略如下:

【1】业务扣库存逻辑不调整,还是同步扣库存,但事先根据流量分配好每个机房库存;

【2】增加库存调配机制,当库存不足时触发库存调配,从有多余库存的机房进行调配;

【3】增加监控和库存不足告警通知,除了自动资源调配,对活动上线后进行机房间的库存情况实时观测和实时手动调配;

相关推荐
两万五千个小时3 分钟前
从零给 DSH 写一个 Webhook 通知插件
javascript·人工智能·架构
天空鸟_时光不老7 分钟前
06-给AI流程加一道人工闸门
java·人工智能·spring boot·后端·spring·spring cloud·架构
fundoit17 分钟前
OIDC的UserInfo端点
java·架构·oauth2·oidc
jason.zeng@150220719 分钟前
(七)「固化 Rest 接口 + Text-to-SQL 灵活查询」双模式 Agent 架构教程
数据库·python·sql·ai·架构·langchain·ai编程
天空鸟_时光不老1 小时前
01-我不转Python把AI塞进Java里
java·人工智能·spring boot·后端·spring·spring cloud·架构
行者全栈架构师1 小时前
【鸿蒙心迹】ArkUI 列表性能实战——为什么 200 条数据页面掉到 20fps,LazyForEach 怎么救(HarmonyOS 7.x)
前端·算法·架构
代码山河1 小时前
JDK、JRE、JVM的区别:一文讲清楚Java运行环境
java·学习·架构·教程·面向对象·项目
Jucai_in_AI1 小时前
全球化培训平台多语言多时区引擎技术实现:自动语言探测、语种动态管理与本地化渲染方案
架构·产品
深入云栈1 小时前
Netty 4.2.x 源码深度解析 (十七):Channel 底层读写 —— Unsafe 的 I/O 操作内核
java·后端·架构
骑着蜗牛撵大象3271 小时前
SpringBoot+Vue3 企业智能体侧挂架构:独立服务、独立数据库与主线零侵入落地
数据库·spring boot·架构·vue·springboot·事件驱动·服务拆分