微服务篇之限流

一、为什么要限流

可以设置最大连接数，但是每一个微服务都有一个tomcat，实现起来非常麻烦。

漏桶算法：

nginx配置如下：

key：定义限流对象，binary_remote_addr就是一种key，基于客户端ip限流。

Zone：定义共享存储区来存储访问信息，10m可以存储16wip地址访问信息。

Rate：最大访问速率，rate=10r/s 表示每秒最多请求10个请求。

burst=20：相当于桶的大小。

Nodelay：快速处理。

nginx配置如下：

limit_conn perip 20：对应的key是 $binary_remote_addr，表示限制单个IP同时最多能持有20个连接。

limit_conn perserver 100：对应的key是 $server_name，表示虚拟主机(server) 同时能处理并发连接的总数。

令牌桶算法：

yml配置文件中，微服务路由设置添加局部过滤器RequestRateLimiter。

key-resolver ：定义限流对象（ ip 、路径、参数），需代码实现，使用spel表达式获取。

replenishRate ：令牌桶每秒填充平均速率。

urstCapacity ：令牌桶总容量。

**面试官：**你们项目中有没有做过限流 ? 怎么做的 ?

候选人：

我当时做的xx项目，采用就是微服务的架构，因为xx因为，应该会有突发流量，最大QPS可以达到2000，但是服务支撑不住，我们项目都通过压测最多可以支撑1200QPS。因为我们平时的QPS也就不到100，为了解决这些突发流量，所以采用了限流。

【版本1】

我们当时采用的nginx限流操作，nginx使用的漏桶算法来实现过滤，让请求以固定的速率处理请求，可以应对突发流量，我们控制的速率是按照ip进行限流，限制的流量是每秒20。

【版本2】

我们当时采用的是spring cloud gateway中支持局部过滤器RequestRateLimiter来做限流，使用的是令牌桶算法，可以根据ip或路径进行限流，可以设置每秒填充平均速率，和令牌桶总容量。

**面试官：**限流常见的算法有哪些呢？

候选人：

比较常见的限流算法有漏桶算法和令牌桶算法。

漏桶算法是把请求存入到桶中，以固定速率从桶中流出，可以让我们的服务做到绝对的平均，起到很好的限流效果。

令牌桶算法在桶中存储的是令牌，按照一定的速率生成令牌，每个请求都要先申请令牌，申请到令牌以后才能正常请求，也可以起到很好的限流作用。

它们的区别是，漏桶和令牌桶都可以处理突发流量，其中漏桶可以做到绝对的平滑，令牌桶有可能会产生突发大量请求的情况，一般nginx限流采用的漏桶，spring cloud gateway中可以支持令牌桶算法。