SpringCloud入门(四)Ribbon负载均衡

一、Ribbon负载均衡原理

SpringCloud底层其实是利用了一个名为Ribbon的组件,来实现负载均衡功能的。

SpringCloudRibbon的底层采用了一个拦截器,拦截了RestTemplate发出的请求,对地址做了修改。如下图:

基本流程如下:

  • 拦截我们的RestTemplate请求http://userservice/user/1

  • RibbonLoadBalancerClient会从请求url中获取服务名称,也就是user-service

  • DynamicServerListLoadBalancer根据user-service到eureka拉取服务列表

  • eureka返回列表,localhost:8081、localhost:8082

  • IRule利用内置负载均衡规则,从列表中选择一个,例如localhost:8081

  • RibbonLoadBalancerClient修改请求地址,用localhost:8081替代userservice,得到http://localhost:8081/user/1,发起真实请求

--源码跟踪解析

1.LoadBalancerIntercepor

可以看到这里的intercept方法,拦截了用户的HttpRequest请求,然后做了几件事:

`request.getURI()`:获取请求uri,本例中就是 http://user-service/user/8

`originalUri.getHost()`:获取uri路径的主机名,其实就是服务id,`user-service`

`this.loadBalancer.execute()`:处理服务id,和用户请求。

这里的`this.loadBalancer`是`LoadBalancerClient`类型。

2.LoadBalancerClient

继续跟入execute方法:

代码是这样的:

  • getLoadBalancer(serviceId):根据服务id获取ILoadBalancer,而ILoadBalancer会拿着服务id去eureka中获取服务列表并保存起来。

  • getServer(loadBalancer):利用内置的负载均衡算法,从服务列表中选择一个。本例中,可以看到获取了8082端口的服务

放行后,再次访问并跟踪,发现获取的是8081:果然实现了负载均衡。

3.负载均衡策略IRule

在刚才的代码中,可以看到获取服务使通过一个`getServer`方法来做负载均衡:

二、Ribbon负载均衡策略

irule接口决定了负载均衡策略,irule接口实现有哪些实现,如何修改实现?

负载均衡策略

负载均衡的规则都定义在IRule接口中,而IRule有很多不同的实现类:如下图:

不同规则的含义如下:

内置负载均衡规则类 : 规则描述

1.RoundRobinRule : 简单轮询服务列表来选择服务器。它是Ribbon默认的负载均衡规则。

2.AvailabilityFilteringRule : 对以下两种服务器进行忽略: (1)在默认情况下,这台服务器如果3次连接失败,这台服务器就会被设置为"短路"状态。短路状态将持续30秒,如果再次连接失败,短路的持续时间就会几何级地增加。 (2)并发数过高的服务器。如果一个服务器的并发连接数过高,配置了AvailabilityFilteringRule规则的客户端也会将其忽略。并发连接数的上限,可以由客户端的<clientName>.<clientConfigNameSpace>.ActiveConnectionsLimit属性进行配置。

3.WeightedResponseTimeRule : 为每一个服务器赋予一个权重值。服务器响应时间越长,这个服务器的权重就越小。这个规则会随机选择服务器,这个权重值会影响服务器的选择。

4.-- ZoneAvoidanceRule -- : 以区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类,这个Zone可以理解为一个机房、一个机架等。而后再对Zone内的多个服务做轮询。

5.BestAvailableRule : 忽略那些短路的服务器,并选择并发数较低的服务器。

6.RandomRule : 随机选择一个可用的服务器。

7.RetryRule : 重试机制的选择逻辑

默认的实现就是ZoneAvoidanceRule,是一种轮询方案

三、修改负载均衡策略

自定义负载均衡策略:

通过定义IRule实现可以修改负载均衡规则,有两种方式:

  1. 代码方式:在order-service中的OrderApplication类中,定义一个新的IRule:(全局配置 )

在order-service中的OrderApplication类中,定义一个新的IRule:

复制代码
@Bean
public IRule randomRule(){
    return new RandomRule();
}

2.配置文件方式:在order-service的application.yml文件中,添加新的配置也可以修改规则:(针对某个微服务配置)

在order-service的application.yml文件中,添加新的配置也可以修改规则:

复制代码
userservice: # 给某个微服务配置负载均衡规则,这里是userservice服务
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule # 负载均衡规则 

注意:一般用默认的负载均衡规则,不做修改。

四、懒加载和饥饿加载

Ribbon默认是采用懒加载,即第一次访问时才会去创建LoadBalanceClient,请求时间会很长。

而饥饿加载则会在项目启动时创建,降低第一次访问的耗时,通过下面配置开启饥饿加载:

复制代码
ribbon:
  eager-load:
    enabled: true
    clients: userservice
相关推荐
舰长11540 分钟前
nginx 负载均衡配置
运维·nginx·负载均衡
xiaodaidai丶1 天前
Eureka的自我保护机制
云原生·eureka·springcloud
hzylyh3 天前
【Java实现单例模式的五种方式及其优缺点分析】
负载均衡
Vio7253 天前
Ribbon负载均衡
spring cloud·ribbon·负载均衡
zrande3 天前
Nginx 负载均衡通用方案
nginx·负载均衡
维尔切5 天前
Nginx 反向代理与负载均衡
运维·nginx·负载均衡
知白守黑2675 天前
反向代理和负载均衡
运维·负载均衡
vadvascascass5 天前
平滑加权轮询负载均衡的底层逻辑
java·算法·负载均衡
yunmi_6 天前
Spring Cloud Netfilx -- Ribbon:负载均衡工具(代码示例)
spring cloud·ribbon·maven·负载均衡
java干货6 天前
我用Nginx做了负载均衡,还需要API网关吗?
运维·nginx·负载均衡