消峰限流有哪几种方式？

fajianchen2024-10-11 23:21

消峰限流的方式

业务视角
1. 验证码
2. 回答问题环节

技术视角

消息队列异步化用户请求

限流，对流量进行层层过滤

nginx 层限流，

一是控制速率 limit_req 漏桶算法

csharp 复制代码

limit_req_zone $binary_remote_addr zone=mylimit:10m rate=2r/s;
server { 
    location / { 
        limit_req zone=mylimit;
    }
}
**-------------------------------------------------------------**
**以上配置表示，限制每个 IP 访问的速度为 2r/s**
limit_req_zone $binary_remote_addr zone=mylimit:10m rate=2r/s;
server { 
    location / { 
        limit_req zone=mylimit **burst**=4;
    }
}

burst=4 表示每个 IP 最多允许4个突发请求，如果单个 IP 在 10ms 内发送 6 次请求
会有 1 个请求被立即处理了，4 个请求被放到 burst 队列里排队执行了，
另外 1 个请求被拒绝了。
**--------------------------------------------------------------**
limit_req_zone $userId zone=mylimit:10m rate=2r/s;
server { 
    location / { 
        limit_req zone=mylimit;
    }
}
**基于用户ID的限流**

二是控制并发连接数 limit_conn_zone limit_conn

csharp 复制代码

limit_conn_zone $binary_remote_addr zone=perip:10m;
limit_conn_zone $server_name zone=perserver:10m;
server {
    ...
    limit_conn perip 10;
    limit_conn perserver 100;
}
其中 limit_conn perip 10 表示限制单个 IP 同时最多能持有 10 个连接；
limit_conn perserver 100 表示 server 同时能处理并发连接的总数为 100 个

ngx_http_upstream_module

服务端限流
1. 常用的限流算法
  1. 时间窗口算法
  2. 漏桶算法
  3. 令牌算法
技术实现
1. Nginx
2. guava RateLimiter
3. tomcat limitlatch
4. Sentinel & Hystrix
方案
1. 同一用户限流，根据UserID限流
2. 某个IP进行限流
3. 接口进行限流

限流是一种有损的技术消峰；验证码、回答问题以及异步化消息队列是无损技术消峰

延伸阅读