【Hystrix技术指南】(5)Command创建和执行实现

创建流程

构建HystrixCommand或者HystrixObservableCommand对象

  • *使用Hystrix的第一步是创建一个HystrixCommand或者HystrixObservableCommand对象来表示你需要发给依赖服务的请求。

若只期望依赖服务每次返回单一的回应,按如下方式构造一个HystrixCommand即可

java 复制代码
HystrixCommand command = new HystrixCommand(arg1, arg2);
复制代码

若期望依赖服务返回一个Observable,并应用『Observer』模式监听依赖服务的回应,可按如下方式构造一个HystrixObservableCommand

java 复制代码
HystrixObservableCommand command = new HystrixObservableCommand(arg1, arg2);
复制代码

执行命令

Hystrix 命令提供四种方式(HystrixCommand支持所有四种方式,而HystrixObservableCommand仅支持后两种方式)来执行你包装的请求

  • execute()------ 阻塞,当依赖服务响应(或者抛出异常/超时)时,返回结果
  • queue()------ 返回Future对象,通过该对象异步得到返回结果
  • observe()------ 返回Observable对象,立即发出请求,在依赖服务响应(或者抛出异常/超时)时,通过注册的Subscriber得到返回结果
  • *toObservable()------ 返回Observable对象,但只有在订阅该对象时,才会发出请求,然后在依赖服务响应(或者抛出异常/超时)时,通过注册的Subscriber得到返回结果
java 复制代码
K value   = command.execute();
Future     fValue  = command.queue();

Observable ohValue = command.observe();

Observable ocValue = command.toObservable();
复制代码

内部实现中

  • execute()是同步调用,内部会调用queue().get()方法
  • queue()内部会调用toObservable().toBlocking().toFuture()

HystrixCommand内部均通过一个Observable的实现来执行请求,即使这些命令本来是用来执行同步返回回应这样的简单逻辑。

1. 结果是否有缓存

如果请求结果缓存这个特性被启用,并且缓存命中,则缓存的回应会立即通过一个Observable对象的形式返回。

2. 请求线路是否是开路

  • 当执行一个命令时,Hystrix 会先检查熔断器状态,确定请求线路是否是开路
  • *如果请求线路是开路,Hystrix将不会执行这个命令,而是直接使用『失败回退逻辑』fallback

3. 线程池/请求队列/信号量占满时会发生什么

如果和当前需要执行的命令相关联的线程池和请求队列(或者信号量,如果不使用线程池),Hystrix 将不会执行这个命令,而是直接使用『失败回退逻辑』

使用HystrixObservableCommand.construct()还是HystrixCommand.run()

Hystrix将根据你使用类的不同,内部使用不同的方式来请求依赖服务:

  • HystrixCommand.run()------ 返回回应或者抛出异常
  • *HystrixObservableCommand.construct()------ 返回Observable对象,并在回应到达时通知 observers,或者回调onError方法通知出现异常

若run()或者construct()方法耗时超过了给命令设置的超时阈值,执行请求的线程将抛出TimeoutException( 若命令本身并不在其调用线程内执行,则单独的定时器线程会抛出该异常)。

在这种情况下,Hystrix将会执行失败回退逻辑,并且会忽略最终(若执行命令的线程没有被中断)返回的回应

若命令本身并不抛出异常,并正常返回回应,Hystrix在添加一些日志和监控数据采集之后,直接返回回应。

  • Hystrix 在使用run()方法时,Hystrix内部还是会生成一个Observable对象,并返回单个请求,产生一个onCompleted通知
  • *而在 Hystrix 使用construct()时,会直接返回由construct()产生的Observable对象

计算线路健康度

Hystrix会将请求成功,失败,被拒绝或超时信息报告给熔断器,熔断器维护一些用于统计数据用的计数器。
这些计数器产生的统计数据使得熔断器在特定的时刻,能短路某个依赖服务的后续请求,直到恢复期结束,若恢复期结束根据统计数据熔断器判定线路仍然未恢复健康,熔断器会再次关闭线路。

失败回退逻辑

当命令执行失败时,Hystrix 将会执行失败回退逻辑,失败原因可能是

  1. construct()或run()方法抛出异常HystrixBadRequestException除外
  2. 当线路是开路,导致命令被短路时
  3. 当命令对应的线程池或信号量被占满
  4. 执行操作超时!

回退具体介绍

  • 失败回退逻辑包含了通用的回应信息,这些回应从内存缓存中或者其他固定逻辑中得到,而不应有任何的网络依赖
  • 如果一定要在失败回退逻辑中包含网络请求,必须将这些网络请求包装在另一个HystrixCommand或HystrixObservableCommand中
  • 当使用HystrixCommand时,通过实现HystrixCommand.getFallback()返回失败回退时的回应。
  • 当使用HystrixObservableCommand时,通过实现HystrixObservableCommand.resumeWithFallback()返回 Observable 对象来通知 observers 失败回退时的回应。
  • 若失败回退方法返回回应,Hystrix会将这个回应返回给命令的调用者。
    • 若Hystrix内部调用HystrixCommand.getFallback()时,会产生一个Observable对象,并包装用户实现的getFallback()方法返回的回应;
    • 若 Hystrix内部调用HystrixObservableCommand.resumeWithFallback()时,会将用户实现的resumeWithFallback()返回的Observable对象直接返回。
    • 若你没有实现失败回退方法,或者失败回退方法抛出异常,Hystrix 内部还是会生成一个 Observable对象,但它不会产生任何回应,并通过onError通知立即中止请求
    • Hystrix默认会通过onError通知调用者发生了何种异常。你需要尽量避免失败回退方法执行失败,保持该方法尽可能的简单不易出错
    • 若失败回退方法执行失败,或者用户未提供失败回退方法,Hystrix会根据调用执行命令的方法的不同而产生不同的行为
      • execute()------ 抛出异常
      • queue()------ 成功返回Future对象,但其get()方法被调用时,会抛出异常
      • observe()------ 返回Observable对象,当你订阅它的时候,会立即调用 subscriber 的onError方法中止请求
      • *toObservable()------ 返回Observable对象,当你订阅它的时候,会立即调用 subscriber 的onError方法中止请求

返回正常回应

若命令成功被执行,Hystrix将回应返回给调用方,或者通过Observable的形式返回。根据上述调用命令方式的不同(如第2条所示),Observable对象会进行一些转换:

Observable对象的转化

  • execute()------ 产生一个Future对象,行为同.queue()产生的Future对象一样,接着调用其get()方法,生成由内部产生的Observable对象返回的回应
  • queue()------ 将内部产生的Observable对象转换(Decorator模式)成BlockingObservable对象,以产生并返回Future对象
  • observe()------ 产生Observable对象后,立即订阅(ReplaySubject)以使命令得以执行(异步),返回该Observable对象,当你调用其subscribe方法时,重放产生的回应信息和通知给用户提供的订阅者
  • toObservable()------ 返回Observable对象,你必须调用其subscribe方法,以使命令得以执行

熔断器

下图展示了HystrixCommand或HystrixObservableCommand如何与HystrixCircuitBreaker进行交互,以及HystrixCircuitBreaker的决策逻辑流程,包括熔断器内部计数器如何工作。

熔断器执行逻辑

线路的开路闭路详细逻辑如下:

  1. 假设线路内的容量(请求QPS)达到一定阈值(通过HystrixCommandProperties.circuitBreakerRequestVolumeThreshold()配置)
  2. 同时,假设线路内的错误率达到一定阈值(通过HystrixCommandProperties.circuitBreakerErrorThresholdPercentage()配置)
  3. 熔断器将从『闭路』转换成『开路』
  4. 若此时是『开路』状态,熔断器将短路后续所有经过该熔断器的请求,这些请求直接走『失败回退逻辑』
  5. **经过一定时间(即『休眠窗口』,通过HystrixCommandProperties.circuitBreakerSleepWindowInMilliseconds()配置),后续第一个请求将会被允许通过熔断器(此时熔断器处于『半开』状态)。
  • 若该请求失败,熔断器将又进入『开路』状态,且在休眠窗口内保持此状态;
  • 若该请求成功,熔断器将进入『闭路』状态,回到逻辑1循环往复。

分享资源


获取以上资源请访问开源项目 点击跳转

相关推荐
wei_shuo2 个月前
Spring Cloud OpenFeign:基于Ribbon和Hystrix的声明式服务调用
spring cloud·hystrix·ribbon
漫无目的行走的月亮2 个月前
微服务容错处理Hystrix
spring cloud·hystrix·微服务
编程、小哥哥2 个月前
springcloud之应用服务快速失败熔断降级保护 Hystrix
spring·spring cloud·hystrix
天下蒂一厨3 个月前
hystrix微服务部署
hystrix·微服务·架构
笑洋仟3 个月前
SpringCloud 配置 feign.hystrix.enabled: true 不生效
java·spring cloud·hystrix
别挡3 个月前
熔断降级 请求合并 请求缓存 线程池隔离 信号量隔离 openfeign整合Hystrix
java·hystrix·缓存
Lill_bin3 个月前
SpringCloud解读
分布式·后端·spring·spring cloud·hystrix·架构
是枫似风4 个月前
Hystrix——服务容错保护库
java·开发语言·spring boot·spring cloud·hystrix·云原生·eureka
vx2_Biye_Design5 个月前
Springcloud物流配送后台-计算机毕业设计源码69809
java·css·spring cloud·hystrix·eureka·ribbon·eclipse
卡卡angel5 个月前
Hystrix 线程池策略时使用ThreadLocal
hystrix