【微服务】04-Polly实现失败重试和限流熔断

文章目录

    • [1. Polly实现失败重试](#1. Polly实现失败重试)
      • [1.1 Polly组件包](#1.1 Polly组件包)
      • [1.2 Polly的能力](#1.2 Polly的能力)
      • [1.3 Polly使用步骤](#1.3 Polly使用步骤)
      • [1.4 适合失败重试的场景](#1.4 适合失败重试的场景)
      • [1.5 最佳实践](#1.5 最佳实践)
    • 2.Polly实现熔断限流避免雪崩效应
      • [2.1 策略类型](#2.1 策略类型)
      • [2.2 组合策略](#2.2 组合策略)

1. Polly实现失败重试

1.1 Polly组件包

  • Polly
  • Polly.Extensions.Http
  • Microsoft.Extensions.Http.Polly

1.2 Polly的能力

  • 失败重试
  • 服务熔断 ⇒ 部分服务不可用时,可以快速响应熔断,避免持续请求不可用服务而导致整个应用程序宕掉
  • 超时处理 ⇒ 请求响应超过设置的时间,可按照预定的操作进行处理
  • 舱壁隔离 ⇒ 为服务定义最大流量和队列,避免服务应请求量过大而被压崩
  • 缓存策略 ⇒ 类似AOP为应用嵌入缓存机制,当缓存命中时可以快速响应缓存
  • 失败降级 ⇒ 当服务不可用时可以响应一个更友好的结果而非报错
  • 组合策略 ⇒ 将上面的策略组合在一起

1.3 Polly使用步骤

  • 定义要处理的异常类型或返回值
  • 定义要处理动作(重试、熔断、降级响应等)
  • 使用定义的策略来执行代码

1.4 适合失败重试的场景

  • 服务"失败"是暂时的,可自愈的
  • 服务是幂等的,重复调用不会有副作用

场景举例

  • 网络闪断
  • 部分服务节点异常

1.5 最佳实践

  • 设置失败重试次数

  • 设置带有步长策略的失败等待间隔 ⇒ 防止持续不断的重试,出现类似DDOS的情况

  • 设置降级响应 ⇒ 重试达到上限时,需要为服务设置降级响应

  • 设置断路器

    public void ConfigureServices(IServiceCollection services)
    {
    // HttpClientFactory Polly内置的重试策略
    services.AddGrpcClient<OrderGrpc.OrderGrpcClient>(options =>
    {
    options.Address = new Uri("https://localhost:5001");
    })
    .ConfigurePrimaryHttpMessageHandler(provider =>
    {
    var handler = new SocketsHttpHandler();
    handler.SslOptions.RemoteCertificateValidationCallback = (a, b, c, d) => true; //允许无效、或自签名证书
    return handler;
    }).AddTransientHttpErrorPolicy(p => p.WaitAndRetryForeverAsync(i => TimeSpan.FromSeconds(i * 3)));// 设置响应500或408时重试,不指定次数直到成功

    复制代码
      // 定义个性化策略
      var reg = services.AddPolicyRegistry();
      
      reg.Add("retryforever", Policy.HandleResult<HttpResponseMessage>(message =>
      {
          return message.StatusCode == System.Net.HttpStatusCode.Created;
      }).RetryForeverAsync());
      
      // 应用策略
      services.AddHttpClient("orderclient").AddPolicyHandlerFromRegistry("retryforever");
      services.AddHttpClient("orderclientv2").AddPolicyHandlerFromRegistry((registry, message) =>
      {
           return message.Method == HttpMethod.Get ? registry.Get<IAsyncPolicy<HttpResponseMessage>>("retryforever") : Policy.NoOpAsync<HttpResponseMessage>();
       });

    }

2.Polly实现熔断限流避免雪崩效应

2.1 策略类型

  • 被动策略(异常处理,结果处理)
  • 主动策略(超时处理,断路器,舱壁隔离,缓存)

被动策略:当服务响应出现一些异常或结果时进行处理

主动策略:根据策略实例去判断是否超时或异常等情况,这是由策略进行主动触发的一些操作

2.2 组合策略

  • 降级响应
  • 失败重试
  • 断路器
  • 舱壁隔离

限流、熔断策略都是有状态的,这指的是在策略中设置的并发数,队列数,还有熔断的采样时间和吞吐量,错误数这些计数器的状态,这些是由一个策略的实例去承载。在对不同服务进行不同的策略定义,单独计算它的熔断限流数值时,就需要单独定义不同的策略的实例,去完成不同服务之间的定义的隔离

复制代码
// startup
public void ConfigureServices(IServiceCollection services)
{
	// 熔断策略
	services.AddHttpClient("orderclientv3").AddPolicyHandler(Policy<HttpResponseMessage>.Handle<HttpRequestException>().CircuitBreakerAsync(
                handledEventsAllowedBeforeBreaking: 10,// 报错10次后熔断服务
                durationOfBreak: TimeSpan.FromSeconds(10), // 熔断时间
                onBreak: (r, t) => { }, // 发生熔断后触发事件
                onReset: () => { }, // 熔断恢复后触发事件
                onHalfOpen: () => { }// 当熔断恢复之前进行验证服务是否可用的请求
                ));
}

//更高级设置
services.AddHttpClient("orderclientv3").AddPolicyHandler(Policy<HttpResponseMessage>.Handle<HttpRequestException>().AdvancedCircuitBreakerAsync(
				// 请求失败比例占80%时熔断
                failureThreshold: 0.8,
                
                // 计算请求失败比例的时间范围,当前为10秒内80%请求失败
                samplingDuration: TimeSpan.FromSeconds(10),
                
                // 最小吞吐量,在达到100个请求的时候再去计算上去失败比例,用于请求量小的时候不进行熔断
                minimumThroughput: 100,
                durationOfBreak: TimeSpan.FromSeconds(20),// 熔断时长
                onBreak: (r, t) => { }, // 发生熔断后触发事件
                onReset: () => { },// 熔断恢复后触发事件
                onHalfOpen: () => { }));// 当熔断恢复之前进行验证服务是否可用的请求

// 服务降级
var message = new HttpResponseMessage()
{
    Content = new StringContent("{}")
};
var fallback = Policy<HttpResponseMessage>.Handle<BrokenCircuitException>().FallbackAsync(message);

// 重试机制,重试3次,每次等1秒钟
var retry = Policy<HttpResponseMessage>.Handle<Exception>().WaitAndRetryAsync(3, i => TimeSpan.FromSeconds(1));

// 组合策略
//执行顺序breakPolicy -> retry -> fallback
var fallbackBreak = Policy.WrapAsync(fallback, retry, breakPolicy);
services.AddHttpClient("httpv3").AddPolicyHandler(fallbackBreak);

// 限流
var bulk = Policy.BulkheadAsync<HttpResponseMessage>(
	// 最大请求数
	maxParallelization: 30, 
	
	// 最大队列数,指的是达到最大请求数后又多少个请求可以被放到队列中;
	// 若不设置这个值,达到最大请求数后程序会抛出异常,如果队列数超出最大队列数,也会抛出异常
    maxQueuingActions: 20, 
    // 请求被限流时执行的处理方式
    onBulkheadRejectedAsync: contxt => Task.CompletedTask
   );

// 限流出现异常时,响应降级
var message2 = new HttpResponseMessage()
{
   Content = new StringContent("{}")
};
var fallback2 = Policy<HttpResponseMessage>.Handle<BulkheadRejectedException>().FallbackAsync(message);
// 组合策略
var fallbackbulk = Policy.WrapAsync(fallback2, bulk);
services.AddHttpClient("httpv4").AddPolicyHandler(fallbackbulk);

当服务发生熔断时,策略会抛出CircuitBreakerException异常,也就是熔断异常

相关推荐
虾球xz7 分钟前
CppCon 2018 学习:THE MOST VALUABLE VALUES
开发语言·c++·学习
雷渊9 分钟前
微服务中为什么要设计不同的服务和不同的数据对象,体现了一个什么样的设计思想?
后端
无奈何杨38 分钟前
CoolGuard风控中新增移动距离和移动速度指标
前端·后端
掘金-我是哪吒43 分钟前
分布式微服务系统架构第157集:JavaPlus技术文档平台日更-Java多线程编程技巧
java·分布式·微服务·云原生·架构
阿蒙Amon1 小时前
C#扩展方法全解析:给现有类型插上翅膀的魔法
开发语言·c#
程序员爱钓鱼1 小时前
Go语言泛型-泛型约束与实践
前端·后端·go
寻月隐君1 小时前
保姆级教程:Zsh + Oh My Zsh 终极配置,让你的 Ubuntu 终端效率倍增
linux·后端·命令行
程序员爱钓鱼1 小时前
Go语言泛型-泛型对代码结构的优化
后端·google·go
这里有鱼汤1 小时前
“对象”?对象你个头!——Python世界观彻底崩塌的一天
后端·python
RainbowSea1 小时前
跨域问题(Allow CORS)解决(3 种方法)
java·spring boot·后端