令牌桶(Token Bucket)和漏桶(Leaky Bucket)细节对比

令牌桶(Token Bucket)和漏桶(Leaky Bucket)是两种经典的流量整形(Traffic Shaping)和速率限制(Rate Limiting)算法,用于控制网络或系统中数据的传输速率。它们的目标是平滑突发流量、防止资源过载,但实现方式和适用场景有所不同。


1. 令牌桶算法(Token Bucket)

核心思想

系统以固定速率向一个桶中放入令牌(Token),每个令牌代表一个发送数据的许可。当请求到达时,必须从桶中获取令牌才能被处理;若桶中无令牌,则请求被拒绝或等待。

关键参数
  • 令牌生成速率(r):每秒向桶中添加的令牌数量(如 10 tokens/s)。
  • 桶容量(c):桶中最多能存放的令牌数(如 100 tokens)。
工作流程
  1. 令牌添加 :系统按固定时间间隔(如每秒)向桶中添加 r 个令牌,直到桶满。
  2. 请求处理
    • 若有令牌,则取走一个令牌并处理请求(如允许数据包通过)。
    • 若无令牌,则拒绝或缓存请求(取决于实现)。
特点
  • 允许突发流量:若桶中有足够令牌,可以一次性处理大量请求(突发流量)。
  • 灵活性:适合需要短期突发但长期平均速率受限的场景(如API限流)。
示例
  • 桶容量为 100,生成速率为 10 tokens/s。
  • 若桶初始满,可以立即处理 100 个请求,之后每秒最多处理 10 个。

2. 漏桶算法(Leaky Bucket)

核心思想

请求像水一样流入桶中,桶以固定速率(漏出)处理请求。无论输入速率如何波动,输出速率恒定。

关键参数
  • 漏出速率(r):桶每秒处理的请求数(如 10 requests/s)。
  • 桶容量(c):桶中最多能缓存的请求数(如 100 requests)。
工作流程
  1. 请求到达:请求进入桶中,若桶未满则被缓存;若满则被丢弃(或拒绝)。
  2. 请求处理 :桶以固定速率 r 漏出请求(如每秒处理 10 个)。
特点
  • 严格平滑流量:输出速率绝对恒定,即使输入有突发。
  • 无突发支持:即使桶未满,也无法加速处理(与令牌桶的区别)。
示例
  • 漏出速率为 10 requests/s,桶容量为 100。
  • 即使瞬间收到 100 个请求,系统仍会按每秒 10 个匀速处理。

对比总结

特性 令牌桶 漏桶
突发流量 支持(消耗桶中令牌) 不支持(输出速率恒定)
输出速率 平均速率可控,允许短期突发 绝对恒定
实现复杂度 需维护令牌生成逻辑 需队列缓存请求
典型场景 API限流、网络流量整形(如TCP) 流量平滑(如视频流控)

选择建议

  • 用令牌桶:需要允许短期突发(如API限流、网络拥塞控制)。
  • 用漏桶:需严格避免突发(如音视频传输、固定速率队列)。

两种算法均可结合队列实现请求缓存,但令牌桶更灵活,漏桶更稳定。实际中,令牌桶应用更广泛(如Redis的RATE LIMITER、Guava的RateLimiter)。

相关推荐
workflower3 小时前
单元测试-例子
java·开发语言·算法·django·个人开发·结对编程
平生不喜凡桃李5 小时前
Linux网络:UDP
linux·网络·udp
MicroTech20255 小时前
微算法科技(MLGO)研发突破性低复杂度CFG算法,成功缓解边缘分裂学习中的掉队者问题
科技·学习·算法
weixiao04305 小时前
Linux网络 网络层
linux·网络·智能路由器
静若繁花_jingjing5 小时前
面试_项目问题_RPC调用异常
网络·网络协议·rpc
墨染点香5 小时前
LeetCode 刷题【126. 单词接龙 II】
算法·leetcode·职场和发展
aloha_7896 小时前
力扣hot100做题整理91-100
数据结构·算法·leetcode
Tiny番茄6 小时前
31.下一个排列
数据结构·python·算法·leetcode
挂科是不可能出现的6 小时前
最长连续序列
数据结构·c++·算法
せいしゅん青春之我6 小时前
[JavaEE初阶] 防止网络传输中的中间人入侵---证书
服务器·网络·网络协议·java-ee