分布式 & 令牌桶算法 & 总结

前言


相关系列

参考文献

概述


简介

TBA @ Token Bucket Algorithm @ 令牌桶算法是一种流行于网络通信领域的流量控制/频率限制算法。令牌桶算法的核心原理是通过一个概念上的"桶"来控制请求的访问频率,这个桶中会保存一定数量的"令牌",每个请求只有获得令牌后才能正式访问系统,否则就只能等待/放弃。而由于桶中的令牌会以固定的频率生成,因此令牌桶算法就可以达到持续控制请求访问数量&频率的效果。此外由于桶可以按配置预存一定数量的令牌,因此在日常请求访问频率 < 令牌产生频率的情况下,令牌桶算法还可以支持一定程度流量高/突发,这是另一种限流算法"漏桶"所不具备的能力。

场景

  • ++限制网络带宽:控制访问流量;++
  • ++限制API频率:限制API调用频率;++
  • ++功能分级:为不同级别的用户提供不同频率的服务;++
  • ++任务调度:限制任务执行频率以避免资源争用。++

原理


概念

  • ++令牌桶:用于存放指定数量令牌的虚拟容器,通常使用Redis一类的中间件实现;++
  • ++令牌填充频率:系统向令牌桶中生成/置入令牌的频率,一般是系统平均QPS/s;++
  • ++令牌消耗:每当请求到达时从桶中移除一个令牌以支持其访问系统。如果桶中没有令牌,那么请求将被延迟/丢弃。++

流程

  • ++系统持续以指定频率产生指定数量的令牌至于令牌桶中,如果令牌桶已满则丢弃;++
  • ++客户端访问系统,在网关被拦截。随后网关会判断当前请求是否免限流,是则直接访问;++
  • ++如果当前请求不免限流,则网关会从尝试从令牌桶中获取令牌。如果令牌不存在则拒绝请求;否则允许请求按预期目的访问系统。++
相关推荐
shinelord明2 小时前
【计算机网络架构】网状型架构简介
大数据·分布式·计算机网络·架构·计算机科学与技术
物联网软硬件开发-轨物科技5 小时前
【轨物洞见】光伏逆变器数据:分布式电站价值回归的“第一块多米诺骨牌”
分布式
java叶新东老师6 小时前
四、搭建springCloudAlibaba2021.1版本分布式微服务-加入openFeign远程调用和sentinel流量控制
分布式·微服务·sentinel
java叶新东老师6 小时前
五、搭建springCloudAlibaba2021.1版本分布式微服务-gateway网关
分布式·微服务·gateway
黄雪超6 小时前
Kafka——消费者组消费进度监控都怎么实现?
大数据·分布式·kafka
java叶新东老师7 小时前
RabbitMq 常用命令和REST API
分布式·rabbitmq·ruby
liulilittle13 小时前
C++ TAP(基于任务的异步编程模式)
服务器·开发语言·网络·c++·分布式·任务·tap
码字的字节13 小时前
ZooKeeper在Hadoop中的协同应用:从NameNode选主到分布式锁实现
hadoop·分布式·zookeeper·分布式锁
武子康15 小时前
Java-80 深入浅出 RPC Dubbo 动态服务降级:从雪崩防护到配置中心秒级生效
java·分布式·后端·spring·微服务·rpc·dubbo
itLaity20 小时前
基于Kafka实现简单的延时队列
spring boot·分布式·kafka