SpringCloud学习笔记(六)_Ribbon服务调用

Ribbon介绍

Spring Cloud Ribbon是基于Netflix Ribbon实现的一套客户端负载均衡的工具

Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法和服务调用。Ribbon客户端组件提供一系列完善的配置项如连接超时、重试等。简单的说,就是在配置文件中列出Load Balance(简称LB)后面所有的机器,Ribbon会自动的帮组你基于某种规则(如简单轮询,随机连接等)去连接这些机器,我们很容易使用Ribbon实现自定义的负载均衡算法

LB负载均衡(Load Balance)

**** 简单的说就是将用户的请求平摊到分配到多个服务上,从而达到系统的HA(高可用)。

常见的负载均衡有软件Nginx、LVS、硬件FS等

Ribbon本地负载均衡客户端 VS Nginx服务端负载均衡区别

Nginx是服务器负载均衡,客户端所有请求都会教给Nginx,然后由nginx实现转发请求,即负载均衡是由服务端实现的

Ribbon本地负载均衡,在调用微服务接口时候,会在注册中心上获取注册信息服务列表之后缓存到JVM本地,从而本地实现RPC远程调用技术

官网:https://github.com/Netflix/ribbon

Ribbon使用

1、搭建项目、参考【SpringCloud】服务提供者集群与服务发现Discovery(三)的示例

采用Eureka作为注册中心,且有2个服务提供者

架构如下:

2、Ribbon依赖,依赖如下:

 1 <dependency>
2     <groupId>org.springframework.cloud</groupId>
3     <artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
4     <version>2.2.2.RELEASE</version>
5     <scope>compile</scope>
6 </dependency>

通过查看示例项目,调用者order项目依赖,发现在Eureka依赖中,默认含有依赖Ribbon的依赖

3、查看RibbonClientConfiguration.java,Ribbon自动装载类。

 1 @Configuration(proxyBeanMethods = false)
 2 @EnableConfigurationProperties
 3 @Import({ HttpClientConfiguration.class, OkHttpRibbonConfiguration.class,
 4         RestClientRibbonConfiguration.class, HttpClientRibbonConfiguration.class })
 5 public class RibbonClientConfiguration {
 6 
 7     ...
 8 
 9     // 自动注入IRule接口用来代表负责负载均衡的策略
10     @Bean
11     @ConditionalOnMissingBean
12     public IRule ribbonRule(IClientConfig config) {
13         if (this.propertiesFactory.isSet(IRule.class, name)) {
14             return this.propertiesFactory.get(IRule.class, config, name);
15         }
16         ZoneAvoidanceRule rule = new ZoneAvoidanceRule();
17         rule.initWithNiwsConfig(config);
18         return rule;
19     }
20 
21     // 自动注入ILoadBalance接口用来代表负责均衡的操作
22     @Bean
23     @ConditionalOnMissingBean
24     public ILoadBalancer ribbonLoadBalancer(IClientConfig config,
25             ServerList<Server> serverList, ServerListFilter<Server> serverListFilter,
26             IRule rule, IPing ping, ServerListUpdater serverListUpdater) {
27         if (this.propertiesFactory.isSet(ILoadBalancer.class, name)) {
28             return this.propertiesFactory.get(ILoadBalancer.class, config, name);
29         }
30         return new ZoneAwareLoadBalancer<>(config, rule, ping, serverList,
31                 serverListFilter, serverListUpdater);
32     }
33 
34     ...
35 }

其中自动注入IRule接口用来代表负责负载均衡的策略(默认策略:ZoneAvoidanceRule),和自动注入ILoadBalance接口用来代表负责均衡的操作(默认均衡:ZoneAwareLoadBalancer)

4、查看ILoadBalance接口(负责均衡的操作)

继承关系如下:

内容如下:

 1 public interface ILoadBalancer {
 2 
 3     public void addServers(List<Server> newServers);
 4 
 5     // 根据key选择一个服务
 6     public Server chooseServer(Object key);
 7 
 8     public void markServerDown(Server server);
 9 
10     public List<Server> getServerList(boolean availableOnly);
11 
12     public List<Server> getReachableServers();
13 
14     public List<Server> getAllServers();
15 }

5、查看IRule接口(负责均衡的策略)

实现关系:

内容如下:

1 public interface IRule{
2 
3     // 根据key选择一个服务
4     public Server choose(Object key);
5     
6     public void setLoadBalancer(ILoadBalancer lb);
7     
8     public ILoadBalancer getLoadBalancer();    
9 }

通过查看实例类,可以看到具体的实现了,可以知道负责均衡的策略

6、Ribbon工作原理

查看LoadBalancerAutoConfiguration自动配置类

 1 @Configuration(proxyBeanMethods = false)
 2 @ConditionalOnClass(RestTemplate.class)
 3 @ConditionalOnBean(LoadBalancerClient.class)
 4 @EnableConfigurationProperties(LoadBalancerRetryProperties.class)
 5 public class LoadBalancerAutoConfiguration {
 6 
 7     
 8     ...
 9 
10 
11     @Configuration(proxyBeanMethods = false)
12     @ConditionalOnClass(RetryTemplate.class)
13     public static class RetryInterceptorAutoConfiguration {
14 
15         @Bean
16         @ConditionalOnMissingBean
17         public RetryLoadBalancerInterceptor ribbonInterceptor(
18                 LoadBalancerClient loadBalancerClient,
19                 LoadBalancerRetryProperties properties,
20                 LoadBalancerRequestFactory requestFactory,
21                 LoadBalancedRetryFactory loadBalancedRetryFactory) {
22             return new RetryLoadBalancerInterceptor(loadBalancerClient, properties,
23                     requestFactory, loadBalancedRetryFactory);
24         }
25 
26         // RestTemplate定制器
27         @Bean
28         @ConditionalOnMissingBean
29         public RestTemplateCustomizer restTemplateCustomizer(
30                 final RetryLoadBalancerInterceptor loadBalancerInterceptor) {
31             return restTemplate -> {
32                 List<ClientHttpRequestInterceptor> list = new ArrayList<>(
33                         restTemplate.getInterceptors());
34                 list.add(loadBalancerInterceptor);
35                 // 给restTemplate,设置拦截器
36                 restTemplate.setInterceptors(list);
37             };
38         }
39 
40     }
41 
42 }

其中自动配置了一个LoadBalancerInterceptor,LoadBalancerInterceptor是个ClientHttpRequestInterceptor客户端请求拦截器。它的作用是在客户端发起请求之前拦截,进而实现客户端的负载均衡。

以下是RestTemplate注入,加@LoadBalanced,的配置方法

 1 @Configuration
 2 public class AppConfig {
 3 
 4     /**
 5      * 注入restTemplate,请用请求rest接口
 6      * @return
 7      */
 8     @Bean
 9     // 标注此注解后,RestTemplate就具有了客户端负载均衡能力
10     // 负载均衡技术依赖于的是Ribbon组件~
11     // RestTemplate都塞入一个loadBalancerInterceptor 让其具备有负载均衡的能力
12     @LoadBalanced
13     public RestTemplate restTemplate(){
14         return new RestTemplate();
15     }
16 }

7、测试Ribbon,是否根据对于的负责均衡的策略,实现负载

1)调试模式启动项目,使用地址:http://localhost:8000/consumer/payment/get/1,进行访问

返回内容为提供者2个节点分别交替返回的,到达负载均衡目的。

2)在ZoneAvoidanceRule类中添加断点,通过运行程序,可以看到程序会运行到ZoneAvoidanceRule类中。

自带负载均衡规则说明

策略名 策略声明 策略描述 实现说明
BestAvailableRule public class BestAvailableRule extends ClientConfigEnabledRoundRobinRule 选择一个最小的并发请求的server 逐个考察Server,如果Server被tripped了,则忽略,在选择其中ActiveRequestsCount最小的server
AvailabilityFilteringRule public class AvailabilityFilteringRule extends PredicateBasedRule 过滤掉那些因为一直连接失败的被标记为circuit tripped的后端server,并过滤掉那些高并发的的后端server(active connections 超过配置的阈值) 使用一个AvailabilityPredicate来包含过滤server的逻辑,其实就就是检查status里记录的各个server的运行状态
WeightedResponseTimeRule public class WeightedResponseTimeRule extends RoundRobinRule 根据相应时间分配一个weight,相应时间越长,weight越小,被选中的可能性越低。 一个后台线程定期的从status里面读取评价响应时间,为每个server计算一个weight。Weight的计算也比较简单responsetime 减去每个server自己平均的responsetime是server的权重。当刚开始运行,没有形成statas时,使用roubine策略选择server。
RetryRule public class RetryRule extends AbstractLoadBalancerRule 对选定的负载均衡策略机上重试机制。 在一个配置时间段内当选择server不成功,则一直尝试使用subRule的方式选择一个可用的server
RoundRobinRule public class RoundRobinRule extends AbstractLoadBalancerRule roundRobin方式轮询选择server 轮询index,选择index对应位置的server
RandomRule public class RandomRule extends AbstractLoadBalancerRule 随机选择一个server 在index上随机,选择index对应位置的server
ZoneAvoidanceRule public class ZoneAvoidanceRule extends PredicateBasedRule 复合判断server所在区域的性能和server的可用性选择server 使用ZoneAvoidancePredicate和AvailabilityPredicate来判断是否选择某个server,前一个判断判定一个zone的运行性能是否可用,剔除不可用的zone(的所有server),AvailabilityPredicate用于过滤掉连接数过多的Server。
相关推荐
车轮滚滚__10 分钟前
uniapp对接unipush 1.0 ios/android
笔记
Code哈哈笑1 小时前
【Java 学习】深度剖析Java多态:从向上转型到向下转型,解锁动态绑定的奥秘,让代码更优雅灵活
java·开发语言·学习
QQ同步助手2 小时前
如何正确使用人工智能:开启智慧学习与创新之旅
人工智能·学习·百度
流浪的小新2 小时前
【AI】人工智能、LLM学习资源汇总
人工智能·学习
A懿轩A3 小时前
C/C++ 数据结构与算法【数组】 数组详细解析【日常学习,考研必备】带图+详细代码
c语言·数据结构·c++·学习·考研·算法·数组
云边有个稻草人3 小时前
【优选算法】—复写零(双指针算法)
笔记·算法·双指针算法
南宫生11 小时前
力扣-图论-17【算法学习day.67】
java·学习·算法·leetcode·图论
sanguine__11 小时前
Web APIs学习 (操作DOM BOM)
学习
冷眼看人间恩怨11 小时前
【Qt笔记】QDockWidget控件详解
c++·笔记·qt·qdockwidget
数据的世界0113 小时前
.NET开发人员学习书籍推荐
学习·.net