SpringCloud学习笔记(六)_Ribbon服务调用

Ribbon介绍

Spring Cloud Ribbon是基于Netflix Ribbon实现的一套客户端负载均衡的工具

Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法和服务调用。Ribbon客户端组件提供一系列完善的配置项如连接超时、重试等。简单的说,就是在配置文件中列出Load Balance(简称LB)后面所有的机器,Ribbon会自动的帮组你基于某种规则(如简单轮询,随机连接等)去连接这些机器,我们很容易使用Ribbon实现自定义的负载均衡算法

LB负载均衡(Load Balance)

**** 简单的说就是将用户的请求平摊到分配到多个服务上,从而达到系统的HA(高可用)。

常见的负载均衡有软件Nginx、LVS、硬件FS等

Ribbon本地负载均衡客户端 VS Nginx服务端负载均衡区别

Nginx是服务器负载均衡,客户端所有请求都会教给Nginx,然后由nginx实现转发请求,即负载均衡是由服务端实现的

Ribbon本地负载均衡,在调用微服务接口时候,会在注册中心上获取注册信息服务列表之后缓存到JVM本地,从而本地实现RPC远程调用技术

官网:https://github.com/Netflix/ribbon

Ribbon使用

1、搭建项目、参考【SpringCloud】服务提供者集群与服务发现Discovery(三)的示例

采用Eureka作为注册中心,且有2个服务提供者

架构如下:

2、Ribbon依赖,依赖如下:

 1 <dependency>
2     <groupId>org.springframework.cloud</groupId>
3     <artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
4     <version>2.2.2.RELEASE</version>
5     <scope>compile</scope>
6 </dependency>

通过查看示例项目,调用者order项目依赖,发现在Eureka依赖中,默认含有依赖Ribbon的依赖

3、查看RibbonClientConfiguration.java,Ribbon自动装载类。

 1 @Configuration(proxyBeanMethods = false)
 2 @EnableConfigurationProperties
 3 @Import({ HttpClientConfiguration.class, OkHttpRibbonConfiguration.class,
 4         RestClientRibbonConfiguration.class, HttpClientRibbonConfiguration.class })
 5 public class RibbonClientConfiguration {
 6 
 7     ...
 8 
 9     // 自动注入IRule接口用来代表负责负载均衡的策略
10     @Bean
11     @ConditionalOnMissingBean
12     public IRule ribbonRule(IClientConfig config) {
13         if (this.propertiesFactory.isSet(IRule.class, name)) {
14             return this.propertiesFactory.get(IRule.class, config, name);
15         }
16         ZoneAvoidanceRule rule = new ZoneAvoidanceRule();
17         rule.initWithNiwsConfig(config);
18         return rule;
19     }
20 
21     // 自动注入ILoadBalance接口用来代表负责均衡的操作
22     @Bean
23     @ConditionalOnMissingBean
24     public ILoadBalancer ribbonLoadBalancer(IClientConfig config,
25             ServerList<Server> serverList, ServerListFilter<Server> serverListFilter,
26             IRule rule, IPing ping, ServerListUpdater serverListUpdater) {
27         if (this.propertiesFactory.isSet(ILoadBalancer.class, name)) {
28             return this.propertiesFactory.get(ILoadBalancer.class, config, name);
29         }
30         return new ZoneAwareLoadBalancer<>(config, rule, ping, serverList,
31                 serverListFilter, serverListUpdater);
32     }
33 
34     ...
35 }

其中自动注入IRule接口用来代表负责负载均衡的策略(默认策略:ZoneAvoidanceRule),和自动注入ILoadBalance接口用来代表负责均衡的操作(默认均衡:ZoneAwareLoadBalancer)

4、查看ILoadBalance接口(负责均衡的操作)

继承关系如下:

内容如下:

 1 public interface ILoadBalancer {
 2 
 3     public void addServers(List<Server> newServers);
 4 
 5     // 根据key选择一个服务
 6     public Server chooseServer(Object key);
 7 
 8     public void markServerDown(Server server);
 9 
10     public List<Server> getServerList(boolean availableOnly);
11 
12     public List<Server> getReachableServers();
13 
14     public List<Server> getAllServers();
15 }

5、查看IRule接口(负责均衡的策略)

实现关系:

内容如下:

1 public interface IRule{
2 
3     // 根据key选择一个服务
4     public Server choose(Object key);
5     
6     public void setLoadBalancer(ILoadBalancer lb);
7     
8     public ILoadBalancer getLoadBalancer();    
9 }

通过查看实例类,可以看到具体的实现了,可以知道负责均衡的策略

6、Ribbon工作原理

查看LoadBalancerAutoConfiguration自动配置类

 1 @Configuration(proxyBeanMethods = false)
 2 @ConditionalOnClass(RestTemplate.class)
 3 @ConditionalOnBean(LoadBalancerClient.class)
 4 @EnableConfigurationProperties(LoadBalancerRetryProperties.class)
 5 public class LoadBalancerAutoConfiguration {
 6 
 7     
 8     ...
 9 
10 
11     @Configuration(proxyBeanMethods = false)
12     @ConditionalOnClass(RetryTemplate.class)
13     public static class RetryInterceptorAutoConfiguration {
14 
15         @Bean
16         @ConditionalOnMissingBean
17         public RetryLoadBalancerInterceptor ribbonInterceptor(
18                 LoadBalancerClient loadBalancerClient,
19                 LoadBalancerRetryProperties properties,
20                 LoadBalancerRequestFactory requestFactory,
21                 LoadBalancedRetryFactory loadBalancedRetryFactory) {
22             return new RetryLoadBalancerInterceptor(loadBalancerClient, properties,
23                     requestFactory, loadBalancedRetryFactory);
24         }
25 
26         // RestTemplate定制器
27         @Bean
28         @ConditionalOnMissingBean
29         public RestTemplateCustomizer restTemplateCustomizer(
30                 final RetryLoadBalancerInterceptor loadBalancerInterceptor) {
31             return restTemplate -> {
32                 List<ClientHttpRequestInterceptor> list = new ArrayList<>(
33                         restTemplate.getInterceptors());
34                 list.add(loadBalancerInterceptor);
35                 // 给restTemplate,设置拦截器
36                 restTemplate.setInterceptors(list);
37             };
38         }
39 
40     }
41 
42 }

其中自动配置了一个LoadBalancerInterceptor,LoadBalancerInterceptor是个ClientHttpRequestInterceptor客户端请求拦截器。它的作用是在客户端发起请求之前拦截,进而实现客户端的负载均衡。

以下是RestTemplate注入,加@LoadBalanced,的配置方法

 1 @Configuration
 2 public class AppConfig {
 3 
 4     /**
 5      * 注入restTemplate,请用请求rest接口
 6      * @return
 7      */
 8     @Bean
 9     // 标注此注解后,RestTemplate就具有了客户端负载均衡能力
10     // 负载均衡技术依赖于的是Ribbon组件~
11     // RestTemplate都塞入一个loadBalancerInterceptor 让其具备有负载均衡的能力
12     @LoadBalanced
13     public RestTemplate restTemplate(){
14         return new RestTemplate();
15     }
16 }

7、测试Ribbon,是否根据对于的负责均衡的策略,实现负载

1)调试模式启动项目,使用地址:http://localhost:8000/consumer/payment/get/1,进行访问

返回内容为提供者2个节点分别交替返回的,到达负载均衡目的。

2)在ZoneAvoidanceRule类中添加断点,通过运行程序,可以看到程序会运行到ZoneAvoidanceRule类中。

自带负载均衡规则说明

策略名 策略声明 策略描述 实现说明
BestAvailableRule public class BestAvailableRule extends ClientConfigEnabledRoundRobinRule 选择一个最小的并发请求的server 逐个考察Server,如果Server被tripped了,则忽略,在选择其中ActiveRequestsCount最小的server
AvailabilityFilteringRule public class AvailabilityFilteringRule extends PredicateBasedRule 过滤掉那些因为一直连接失败的被标记为circuit tripped的后端server,并过滤掉那些高并发的的后端server(active connections 超过配置的阈值) 使用一个AvailabilityPredicate来包含过滤server的逻辑,其实就就是检查status里记录的各个server的运行状态
WeightedResponseTimeRule public class WeightedResponseTimeRule extends RoundRobinRule 根据相应时间分配一个weight,相应时间越长,weight越小,被选中的可能性越低。 一个后台线程定期的从status里面读取评价响应时间,为每个server计算一个weight。Weight的计算也比较简单responsetime 减去每个server自己平均的responsetime是server的权重。当刚开始运行,没有形成statas时,使用roubine策略选择server。
RetryRule public class RetryRule extends AbstractLoadBalancerRule 对选定的负载均衡策略机上重试机制。 在一个配置时间段内当选择server不成功,则一直尝试使用subRule的方式选择一个可用的server
RoundRobinRule public class RoundRobinRule extends AbstractLoadBalancerRule roundRobin方式轮询选择server 轮询index,选择index对应位置的server
RandomRule public class RandomRule extends AbstractLoadBalancerRule 随机选择一个server 在index上随机,选择index对应位置的server
ZoneAvoidanceRule public class ZoneAvoidanceRule extends PredicateBasedRule 复合判断server所在区域的性能和server的可用性选择server 使用ZoneAvoidancePredicate和AvailabilityPredicate来判断是否选择某个server,前一个判断判定一个zone的运行性能是否可用,剔除不可用的zone(的所有server),AvailabilityPredicate用于过滤掉连接数过多的Server。
相关推荐
Komorebi.py1 小时前
【Linux】-学习笔记05
linux·笔记·学习
亦枫Leonlew1 小时前
微积分复习笔记 Calculus Volume 1 - 6.5 Physical Applications
笔记·数学·微积分
冰帝海岸6 小时前
01-spring security认证笔记
java·笔记·spring
小二·7 小时前
java基础面试题笔记(基础篇)
java·笔记·python
朝九晚五ฺ8 小时前
【Linux探索学习】第十四弹——进程优先级:深入理解操作系统中的进程优先级
linux·运维·学习
wusong99910 小时前
mongoDB回顾笔记(一)
数据库·笔记·mongodb
猫爪笔记10 小时前
前端:HTML (学习笔记)【1】
前端·笔记·学习·html
Resurgence0310 小时前
【计组笔记】习题
笔记
pq113_610 小时前
ftdi_sio应用学习笔记 3 - GPIO
笔记·学习·ftdi_sio
澄澈i10 小时前
设计模式学习[8]---原型模式
学习·设计模式·原型模式