如何最小改变架构,快速实现流控的?(第34讲)

《架构师之路:架构设计中的100个知识点》

34.快速流控

传统架构,为何不是默认流控的?

站点与服务,服务与服务上下游之间,一般如何采用两种通讯模式:

其一,RPC直接调用。

其二,MQ推送模式。

画外音:这也是MQ的默认模式。

这两种模式,都可能造成流量冲击:流量从端到站点,到服务,到数据库,流量会一路透传下来,引发雪崩。

举个秒杀业务的栗子。

  1. 上游:端上发起抢购操作;

  2. 下游:完成秒杀业务逻辑(库存检查,库存冻结,余额检查,余额冻结,订单生成,余额扣减,库存扣减,生成流水,余额解冻,库存解冻);

上游每秒并发1W个请求,下游每秒只能并发处理2K个请求,**如果流量直接透传,会导致下游系统被压垮。**雪崩出现后,整体系统并发处理能力归0。

如何避免雪崩,使得整体系统能够保持在一个并发2K的处理水平?

有两大类优化方向:

  1. 上游队列缓冲,限速发送;

  2. 下游队列缓冲,限速执行;

那哪种优化对架构改造最小?

下游队列缓冲,限速执行,对系统改造最小。

如何改造?

上下游之间加一个MQ,采用拉模式:

MQ-reciever根据自己的处理能力,实施流控,就能达到保护自身的效果。并且这是MQ提供的通用功能,无需上下游修改代码。

如果上游发送流量过大,MQ提供拉模式确实可以起到下游自我保护的作用,但会不会导致消息在MQ中堆积,导致全部超时?

下游处理过慢,确实可能会导致消息堆积,常见的有两种处理方法:

  1. 治标法,提前判断请求在队列中的停留时间,如果超时,直接快速返回,这样至少还能保证一部分请求不超时;

  2. 治本法,还是要优化下游业务系统,例如批量处理,才能从根本上提升吞吐量;

结论

削峰填谷,避免雪崩,实施流控,最小化升级:

  1. MQ要做的:MQ-client使用拉模式,定时或者批量拉取,可以起到削平流量,下游自我保护的作用;

  2. 业务系统要做的:优化处理吞吐量;

知其然,知其所以然。

思路比结论更重要。

补充阅读材料:

《MQ流控

https://www.enterpriseintegrationpatterns.com/ramblings/queues_flow_control.html

图1:MQ削峰填谷

图2:MQ雪崩保护

图3:MQ降级保护

文章比较系统,建议细读**。**

==全文完==

20年,系列1(已完结):

架构师定会遇到的80个经典架构问题!

21年,系列2(已完结):

关于即时通讯架构的一切!

24年,系列3(进行中):

《架构设计中的100个知识点》

**短视频+图文+直播+星球社群,**免费。

讲技术的宝藏号,日更,保护起来。

点赞,转发,在看,感激不尽!

相关推荐
Sirius Wu5 小时前
当前主流 RAG 架构全景及轻量级向量库选型深度分析
运维·人工智能·架构·aigc
NOVAnet20235 小时前
SASE 透明模式:非侵入式部署,实现企业网络架构无感升级
网络·架构·零信任·sd-wan·sase
这个DBA有点耶6 小时前
时序数据库选型:吞吐、压缩与查询延迟的均衡之术
数据库·sql·架构·时序数据库·dba
2401_834636996 小时前
LNMP架构部署ECShop电商平台实战手册
架构
ai产品老杨6 小时前
【架构深评】打破多品牌壁垒:如何基于 GB28181 与 RTSP 栈,构建高解耦的 AI 视频流媒体管理平台?(附源码交付)
人工智能·架构·媒体
-山中问答-6 小时前
【大数据系统分析与设计】架构、应用系统结构化分析核心知识点
大数据·架构·系统分析
无心水7 小时前
17、本地多模态|Qwen-VL离线私有化提取敏感PDF完全指南
人工智能·分布式·架构·openclaw·hermes
救救孩子把7 小时前
02 Milvus-Milvus整体架构
架构·milvus
ting94520007 小时前
MAI-Image-2.5 技术全解:架构、核心能力与生产级部署实践
人工智能·架构
Sammyyyyy7 小时前
2026 Mac 本地大模型部署深度解析与混合架构指南
数据库·人工智能·macos·ai·架构·servbay