微服务篇-C 深入理解第一代微服务(SpringCloud)_IV 深入理解Hystrix断路器

原创作者:田超凡(程序员田宝宝)

版权所有,引用请注明原作者,严禁复制转载

Part 1 理论部分

1 什么是微服务系统中的高可用?

在复杂的大型微服务系统中,高可用相关的技术方案非常重要,高可用架构中非常重要的一个环节,就是如何将微服务系统中的各个服务打造成高可用服务集群,从而可以从容应对在微服务环境下可能会遇到的各种各样的问题,避免整个微服务系统被某个服务的故障给拖垮,比如:服务间的调用超时、调用失败等等。

要解决这些棘手的、影响微服务系统可用性的问题,就要涉及到高可用解决方案中很多非常重要的技术点,包括:

资源隔离、

服务限流和过载保护、

熔断、

优雅降级、

容错、

超时控制、

监控运维等。

2 什么是服务雪崩效应?

服务雪崩效应产生于所有服务的请求都堆积在同一个线程池中的情况,因为所有的请求都是同一个线程池进行处理,如果在高并发情况下,所有的请求全部访问某个服务的同一个接口,达到线程池默认的最大极限后,会导致其他的服务也无法访问,这就是服务雪崩效应。

解决服务雪崩效应可以使用服务隔离机制实现(线程池隔离和信号量拦截)。

3 什么是服务降级?

在高并发情况下,为了防止用户一直等待,当响应时间过长时(可以设置一个最大响应等待时间),需要使用服务降级的方式调用fallBack方法,直接返回一个友好的提示给客户端,从而减少响应时间。

4 什么是服务熔断?

服务熔断的目的是为了保护服务,在高并发情况下,如果请求数量达到了服务能承受的最大极限(这个最大极限可以自行手动设置,也叫最大阈值),如果流量超出了设置的最大阈值,则直接拒绝访问,保护当前服务。然后可以使用服务降级来返回一个友好提示,所以推荐服务熔断和服务降级一起使用。

5 什么是服务隔离?

默认情况下,只有一个线程池来维护所有的服务接口,如果大量的请求访问同一个服务接口,达到Tomcat线程池默认的最大极限后,可能会导致其他服务也无法访问。因此需要基于服务隔离机制保证服务和服务之间相互独立,互不影响。

可以使用独立的线程池实现服务隔离,相当于每个接口(服务)都有自己独立的线程池,因为所有线程池互不影响,这样也就可以用来解决服务雪崩效应。

服务隔离最常用的实现方案有两种:线程池隔离和信号量拦截。

线程池隔离:每个服务接口都有自己独立的线程池,线程池之间完全隔离,互不影响,这样即使一个服务的线程池满了也不会影响到其他服务。

信号量拦截:使用一个原子计数器(或信号量)记录当前运行的线程个数,当请求进来时先判断计数器的数值,若超过了设置的最大线程数则直接拒绝该请求,若没有超过则放行,然后计数器+1,当请求返回响应成功后计数器-1。

6 什么是服务限流?

服务限流就是对每个接口的访问量进行限制,常用的服务限流算法有漏桶、令牌桶,计数器也可以实现粗暴限流。

7 什么是Hystrix?

Hystrix是由国外知名的影视网站Netflix提供的开源的高可用断路器框架,Hystrix能够完美地解决微服务系统中打造高可用服务集群所要面对的一系列技术难题。

在微服务架构中,我们把每块业务都拆成单个的服务模块,当需求需要的时候,服务之间可以互相调用,但是,由于网络原因或其它的一些因素,有可能会出现服务不可用的情况,当某个服务出现问题时,如果其他服务继续调用这个服务,就有可能出现线程阻塞,但如果同时有大量的请求,就会造成线程资源被用完,这样就可能会导致服务瘫痪,由于服务间会相互调用,很容易造成蝴蝶效应,导致整个系统宕掉。因此,就有人提出用断路器来解决这一问题。

Hystrix"豪猪",具有自我保护的能力,Hystrix可以通过以下几种机制来解决服务雪崩效应:

1 资源隔离:包括线程池隔离和信号量拦截,限制调用分布式服务的资源运行,某一个调用的服务出现问题不会影响到其他服务调用。

2 降级机制:超时降级、资源不足时(线程或信号量)降级,降级后可以配合降级接口返回托底数据。

3 熔断:当失败率达到阈值自动触发服务降级(如因网络故障/超时造成的失败率高),熔断器触发的快速失败能够快速恢复。

4 缓存:提供了请求缓存、请求合并实现。

Part 2 实践部分

Hystrix环境搭建

Maven依赖信息

|--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| <!-- ++hystrix++断路器 --> <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-++netflix++ -++hystrix++</artifactId> </dependency> |

开启Hystrix断路器

|----------------------------------------------------------------------------------------------------------------------------------------|
| ++feign++ : hystrix: enabled: true ####++hystrix++ 禁止服务超时时间 ++hystrix++ : command: default: execution: timeout: enabled: false |

|------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| @SpringBootApplication @EnableEurekaClient @EnableFeignClients @EnableHystrix public class AppOrder { public static void main(String[] args) { SpringApplication.run(AppOrder.class , args); } } |

服务降级处理

|------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| @HystrixCommand(fallbackMethod = "orderToUserInfoFallback") @GetMapping("/orderToUserInfo") public ResponseBase orderToUserInfoHystrix() { System.out .println("orderToUserInfo:" + "当前线程池名称:" + Thread.currentThread().getName()); return memberServiceFeigin.getUserInfo(); } @RequestMapping("/orderToUserInfoFallback") public ResponseBase orderToUserInfoFallback() { return setResultError("系统错误!!!!"); } |

Fallback回调

|-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| @RequestMapping("/orderToUserInfo") public ResponseBase orderToUserInfo() { return memberServiceFeigin.getUserInfo(); } @Component public class MemberServiceFallback extends BaseApiService implements MemberServiceFeigin { public ResponseBase getUserInfo() { // 服务降级处理 return setResultError("系统错误,请稍后重试!"); } } |

本文部分素材转载自蚂蚁课堂

相关推荐
Dcs11 分钟前
VSCode等多款主流 IDE 爆出安全漏洞!插件“伪装认证”可执行恶意命令!
java
保持学习ing17 分钟前
day1--项目搭建and内容管理模块
java·数据库·后端·docker·虚拟机
京东云开发者28 分钟前
Java的SPI机制详解
java
超级小忍1 小时前
服务端向客户端主动推送数据的几种方法(Spring Boot 环境)
java·spring boot·后端
程序无bug1 小时前
Spring IoC注解式开发无敌详细(细节丰富)
java·后端
小莫分享1 小时前
Java Lombok 入门
java
程序无bug1 小时前
Spring 对于事务上的应用的详细说明
java·后端
食亨技术团队1 小时前
被忽略的 SAAS 生命线:操作日志有多重要
java·后端
苦学编程的谢1 小时前
Maven
java·maven·intellij-idea
考虑考虑1 小时前
Maven 依赖范围(Scope)
java·后端·maven