消峰限流有哪几种方式?

消峰限流的方式

  1. 业务视角

    1. 验证码
    2. 回答问题环节
  2. 技术视角

    1. 消息队列异步化用户请求

    2. 限流,对流量进行层层过滤

      1. nginx 层限流,

        1. 一是控制速率 limit_req 漏桶算法

          csharp 复制代码
          limit_req_zone $binary_remote_addr zone=mylimit:10m rate=2r/s;
          server { 
              location / { 
                  limit_req zone=mylimit;
              }
          }
          **-------------------------------------------------------------**
          **以上配置表示,限制每个 IP 访问的速度为 2r/s**
          limit_req_zone $binary_remote_addr zone=mylimit:10m rate=2r/s;
          server { 
              location / { 
                  limit_req zone=mylimit **burst**=4;
              }
          }
          
          burst=4 表示每个 IP 最多允许4个突发请求,如果单个 IP 在 10ms 内发送 6 次请求
          会有 1 个请求被立即处理了,4 个请求被放到 burst 队列里排队执行了,
          另外 1 个请求被拒绝了。
          **--------------------------------------------------------------**
          limit_req_zone $userId zone=mylimit:10m rate=2r/s;
          server { 
              location / { 
                  limit_req zone=mylimit;
              }
          }
          **基于用户ID的限流**
        2. 二是控制并发连接数 limit_conn_zone limit_conn

          csharp 复制代码
          limit_conn_zone $binary_remote_addr zone=perip:10m;
          limit_conn_zone $server_name zone=perserver:10m;
          server {
              ...
              limit_conn perip 10;
              limit_conn perserver 100;
          }
          其中 limit_conn perip 10 表示限制单个 IP 同时最多能持有 10 个连接;
          limit_conn perserver 100 表示 server 同时能处理并发连接的总数为 100 个
        3. ngx_http_upstream_module

      2. 服务端限流

        1. 常用的限流算法
          1. 时间窗口算法
          2. 漏桶算法
          3. 令牌算法
      3. 技术实现

        1. Nginx
        2. guava RateLimiter
        3. tomcat limitlatch
        4. Sentinel & Hystrix
      4. 方案

        1. 同一用户限流,根据UserID限流
        2. 某个IP进行限流
        3. 接口进行限流

      限流是一种有损的技术消峰;验证码、回答问题以及异步化消息队列是无损技术消峰


    延伸阅读

相关推荐
禅思院1 小时前
路由性能优化终极指南:从懒加载漏洞到边缘渲染的架构跃迁
前端·架构·前端框架
怕浪猫1 小时前
Electron 系列文章封面图
算法·架构·前端框架
王二端茶倒水2 小时前
从千兆到万兆:小区、园区、酒店网络运营该怎么升级?
架构
喵个咪2 小时前
技术复盘:基于 go-wind-cms 的官网+商城双业务渐进拆分实战
后端·架构·go
ZengLiangYi2 小时前
批量导入 1000 条对话的性能优化实战
javascript·后端·架构
大树8818 小时前
金刚石散热越强,管路越先见顶
大数据·运维·服务器·人工智能·ai
摇滚侠18 小时前
Linux CentOS7 rpm 安装 MySQL 5.7
linux·运维·mysql
霸道流氓气质19 小时前
领域驱动设计(DDD)在 Spring Boot 微服务中的实践指南
运维·spring boot·微服务
东方佑19 小时前
FRSM 规模效应与架构对比补充报告
架构
小宇宙Zz19 小时前
Maven依赖冲突
java·服务器·maven