消峰限流有哪几种方式?

消峰限流的方式

  1. 业务视角

    1. 验证码
    2. 回答问题环节
  2. 技术视角

    1. 消息队列异步化用户请求

    2. 限流,对流量进行层层过滤

      1. nginx 层限流,

        1. 一是控制速率 limit_req 漏桶算法

          csharp 复制代码
          limit_req_zone $binary_remote_addr zone=mylimit:10m rate=2r/s;
          server { 
              location / { 
                  limit_req zone=mylimit;
              }
          }
          **-------------------------------------------------------------**
          **以上配置表示,限制每个 IP 访问的速度为 2r/s**
          limit_req_zone $binary_remote_addr zone=mylimit:10m rate=2r/s;
          server { 
              location / { 
                  limit_req zone=mylimit **burst**=4;
              }
          }
          
          burst=4 表示每个 IP 最多允许4个突发请求,如果单个 IP 在 10ms 内发送 6 次请求
          会有 1 个请求被立即处理了,4 个请求被放到 burst 队列里排队执行了,
          另外 1 个请求被拒绝了。
          **--------------------------------------------------------------**
          limit_req_zone $userId zone=mylimit:10m rate=2r/s;
          server { 
              location / { 
                  limit_req zone=mylimit;
              }
          }
          **基于用户ID的限流**
        2. 二是控制并发连接数 limit_conn_zone limit_conn

          csharp 复制代码
          limit_conn_zone $binary_remote_addr zone=perip:10m;
          limit_conn_zone $server_name zone=perserver:10m;
          server {
              ...
              limit_conn perip 10;
              limit_conn perserver 100;
          }
          其中 limit_conn perip 10 表示限制单个 IP 同时最多能持有 10 个连接;
          limit_conn perserver 100 表示 server 同时能处理并发连接的总数为 100 个
        3. ngx_http_upstream_module

      2. 服务端限流

        1. 常用的限流算法
          1. 时间窗口算法
          2. 漏桶算法
          3. 令牌算法
      3. 技术实现

        1. Nginx
        2. guava RateLimiter
        3. tomcat limitlatch
        4. Sentinel & Hystrix
      4. 方案

        1. 同一用户限流,根据UserID限流
        2. 某个IP进行限流
        3. 接口进行限流

      限流是一种有损的技术消峰;验证码、回答问题以及异步化消息队列是无损技术消峰


    延伸阅读

相关推荐
梦想很大很大9 小时前
拒绝“盲猜式”调优:在 Go Gin 项目中落地 OpenTelemetry 链路追踪
运维·后端·go
Sinclair10 小时前
内网服务器离线安装 Nginx+PHP+MySQL 的方法
运维
叶落阁主11 小时前
Tailscale 完全指南:从入门到私有 DERP 部署
运维·安全·远程工作
CoovallyAIHub13 小时前
实时视觉AI智能体框架来了!Vision Agents 狂揽7K Star,延迟低至30ms,YOLO+Gemini实时联动!
算法·架构·github
RoyLin14 小时前
领域驱动设计:回归本质的工程实践
架构
CoovallyAIHub14 小时前
OpenClaw:从“19万星标”到“行业封杀”,这只“赛博龙虾”究竟触动了谁的神经?
算法·架构·github
悟空聊架构15 小时前
基于KaiwuDB在游乐场“刷卡+投币”双模消费系统中的落地实践
数据库·后端·架构
over69718 小时前
从 URL 输入到页面展示:一次完整的 Web 导航之旅
前端·面试·架构
Mintopia18 小时前
软件系统中的订单-审核业务架构分析与实践
后端·架构
茶杯梦轩18 小时前
从零起步学习RabbitMQ || 第二章:RabbitMQ 深入理解概念 Producer、Consumer、Exchange、Queue 与企业实战案例
服务器·后端·消息队列