雪崩问题及其解决方案(请求限流、线程隔离、服务熔断、fallback、sentinel实现以上功能)

目录

一、雪崩问题:

如何解决雪崩问题:

请求限流:

线程隔离:

服务熔断:

sentinel:

请求限流:

线程隔离:

Fallback:

服务熔断:


一、雪崩问题:

雪崩问题就是由于某个服务的提供者出现了一些小问题,导致请求阻塞等问题,当其他服务来请求的时候就会持续等待直到耗尽资源,自己也崩溃掉,然后大部分的服务都会因此宕机,这就是雪崩问题

如何解决雪崩问题:

请求限流:
线程隔离:
服务熔断:

sentinel:

sentinel就封装好了我们刚才提到的服务保护方案,现在我们来安装、集成一下sentinel

1.搭建sentinel控制台

下载jar包、将jar包下载后放到不含中文的目录下,并打开cmd输入以下指令:

bash 复制代码
java -Dserver.port=8090 -Dcsp.sentinel.dashboard.server=localhost:8090 -Dproject.name=sentinel-dashboard -jar sentinel-dashboard.jar

这样我们就通过访问localhost:8090来访问sentinel的控制台了

2.在cart-service模块中整合sentinel,连接sentinel-dashboard控制台,步骤如下:

1)引入sentinel依赖

XML 复制代码
<!--sentinel-->
<dependency>
    <groupId>com.alibaba.cloud</groupId> 
    <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>

2)配置控制台

修改application.yaml文件,添加下面内容:

TypeScript 复制代码
spring:
  cloud: 
    sentinel:
      transport:
        dashboard: localhost:8090

3)访问cart-service的任意端点

重启cart-service,然后访问查询购物车接口,sentinel的客户端就会将服务访问的信息提交到sentinel-dashboard控制台。并展示出统计信息:

点击簇点链路菜单,会看到下面的页面:

所谓簇点链路,就是单机调用链路,是一次请求进入服务后经过的每一个被Sentinel监控的资源。默认情况下,Sentinel会监控SpringMVC的每一个Endpoint(接口)。

因此,我们看到/carts这个接口路径就是其中一个簇点,我们可以对其进行限流、熔断、隔离等保护措施。

不过,需要注意的是,我们的SpringMVC接口是按照Restful风格设计,因此购物车的查询、删除、修改等接口全部都是/carts路径:

默认情况下Sentinel会把路径作为簇点资源的名称,无法区分路径相同但请求方式不同的接口,查询、删除、修改等都被识别为一个簇点资源,这显然是不合适的。

所以我们可以选择打开Sentinel的请求方式前缀,把请求方式 + 请求路径作为簇点资源名:

首先,在cart-serviceapplication.yml中添加下面的配置:

TypeScript 复制代码
spring:
  cloud:
    sentinel:
      transport:
        dashboard: localhost:8090
      http-method-specify: true # 开启请求方式前缀

然后,重启服务,通过页面访问购物车的相关接口,可以看到sentinel控制台的簇点链路发生了变化:

请求限流:

在簇点链路后面点击流控按钮,即可对其做限流配置:

在弹出的菜单中这样填写:

这样就把查询购物车列表这个簇点资源的流量限制在了每秒6个,也就是最大QPS为6.

我们利用Jemeter做限流测试,我们每秒发出10个请求:

最终监控结果如下:

可以看出GET:/carts这个接口的通过QPS稳定在6附近,而拒绝的QPS在4附近,符合我们的预期。

线程隔离:

线程隔离也在簇点链路里配置:

这样就限制了该业务最多只能有5个线程访问,不会占用更多线程,保障了别的业务的正常运行

Fallback:

由于我们的查询线程被限制了,当有更多的线程进入时就会报错,这给用户的体验感很差,所以我们使用fallback来提示用户信息或者返回其他信息来提升用户的体验感

首先我们在api模块下client包下新建fallback包以及ItemClientFallbackFactory类实现FallbackFactory<ItemClient>接口,然后重写接口当中的抽象方法create,在其中返回我们自己ItemClient接口当中的两个抽象方法:

java 复制代码
package com.hmall.api.client.fallback;

import com.hmall.api.client.ItemClient;
import com.hmall.api.dto.ItemDTO;
import com.hmall.api.dto.OrderDetailDTO;
import com.hmall.common.utils.CollUtils;
import lombok.extern.slf4j.Slf4j;
import org.springframework.cloud.openfeign.FallbackFactory;

import java.util.Collection;
import java.util.List;

@Slf4j
public class ItemClientFallbackFactory implements FallbackFactory<ItemClient> {
    @Override
    public ItemClient create(Throwable cause) {
        return new ItemClient() {
            @Override
            public List<ItemDTO> queryItemByIds(Collection<Long> ids) {
                log.error("查询商品信息失败:{}", cause);
                return CollUtils.emptyList();
            }

            @Override
            public void deductStock(List<OrderDetailDTO> items) {
                log.error("扣减库存失败:{}", cause);
                throw new RuntimeException("cause");
            }
        };
    }
}

这是在做线程超过隔离线程的数量时做的操作;

然后在config下创建第三方Bean对象(这里偷懒用建好的DefaultFeignConfig):

java 复制代码
    @Bean
    public ItemClientFallbackFactory itemClientFallbackFactory(){
        return new ItemClientFallbackFactory();
    }

接下来在ItemClient接口上设置@FeignClient注解的属性:

java 复制代码
@FeignClient(value = "item-service", fallbackFactory = ItemClientFallbackFactory.class)

最后在yml文件中进行配置,开启sentinel监控:

TypeScript 复制代码
feign:
  sentinel:
    enabled: true # 开启feign对sentinel的支持

重启cart-service服务,可以看到查询商品的FeignClient自动变成了一个簇点资源:

最终测试结果如下:

服务熔断:

我们可以在控制台通过点击簇点后的**熔断**按钮来配置熔断策略:

这种是按照慢调用比例来做熔断,上述配置的含义是:

  • RT超过200毫秒的请求调用就是慢调用

  • 统计最近1000ms内的最少5次请求,如果慢调用比例不低于0.5,则触发熔断

  • 熔断持续时长20s

在一开始一段时间是允许访问的,后来触发熔断后,查询商品服务的接口通过QPS直接为0,所有请求都被熔断了。而查询购物车的本身并没有受到影响。

此时整个购物车查询服务的平均RT影响不大:

相关推荐
徐子童3 小时前
基于微服务的在线判题系统重点总结
java·微服务·架构
大飞记Python3 小时前
Chromedriver放项目里就行!Selenium 3 和 4 指定路径方法对比 + 兼容写法
开发语言·python
青衫码上行3 小时前
【从0开始学习Java | 第21篇】网络编程综合练习
java·网络·学习
std78793 小时前
用C++ 实现屏幕保护程序
开发语言·c++
tumu_C3 小时前
无用知识研究:在trailing return type利用decltype,comma operator在对函数进行sfinae原创 [二]
开发语言·c++·算法
jjjxxxhhh1233 小时前
【项目-】Qt + QCustomPlot 实现频谱监测仪:四图联动、高频信号注入、鼠标交互全解析
开发语言·qt·交互
web安全工具库3 小时前
告别刀耕火种:用 Makefile 自动化 C 语言项目编译
linux·运维·c语言·开发语言·数据库·算法·自动化
小小测试开发4 小时前
Python Arrow库:告别datetime繁琐,优雅处理时间与时区
开发语言·前端·python
鸽鸽程序猿4 小时前
【项目】【抽奖系统】注册功能实现
java·开发语言