SpringCloud学习笔记(二)Ribbon负载均衡、Nacos注册中心、Nacos与Eureka的区别

文章目录

• [4 Ribbon负载均衡](#4 Ribbon负载均衡)
• • [4.1 负载均衡原理](#4.1 负载均衡原理)
  • [4.2 源码解读](#4.2 源码解读)
  • [4.3 负载均衡策略](#4.3 负载均衡策略)
  • • [4.3.1 内置的负载均衡策略](#4.3.1 内置的负载均衡策略)
    • [4.3.2 自定义负载均衡策略](#4.3.2 自定义负载均衡策略)
    • • [4.3.2.1 方式一：定义IRule](#4.3.2.1 方式一：定义IRule)
      • [4.3.2.2 方式二：配置文件](#4.3.2.2 方式二：配置文件)
  • [4.4 饥饿加载](#4.4 饥饿加载)
• [5 Nacos注册中心](#5 Nacos注册中心)
• • [5.1 认识和安装Nacos](#5.1 认识和安装Nacos)
  • [5.2 服务注册到Nacos](#5.2 服务注册到Nacos)
  • [5.3 服务分级存储模型](#5.3 服务分级存储模型)
  • • [5.3.1 同机房集群](#5.3.1 同机房集群)
    • [5.3.2 给服务实例配置集群](#5.3.2 给服务实例配置集群)
    • [5.3.3 同集群优先的负载均衡](#5.3.3 同集群优先的负载均衡)
  • [5.4 权重配置](#5.4 权重配置)
  • [5.5 环境隔离](#5.5 环境隔离)
  • • [5.5.1 创建namespace](#5.5.1 创建namespace)
    • [5.5.2 给微服务配置namespace](#5.5.2 给微服务配置namespace)
  • [5.6 永久实例](#5.6 永久实例)
  • [5.7 Nacos与Eureka的区别](#5.7 Nacos与Eureka的区别)

前言

SpringCloud学习笔记系列文章：

SpringCloud学习笔记(一)微服务介绍、服务拆分和RestTemplate远程调用、Eureka注册中心

4 Ribbon负载均衡

上一节，在order-service工程的OrderApplication启动类中，给RestTemplate对象添加了@LoadBalanced注解，即可实现负载均衡功能，这是什么原理呢？

4.1 负载均衡原理

SpringCloud底层其实是利用了Ribbon组件，来实现负载均衡功能的。如下图所示：

order-service(8080)服务发出的请求是http://user-service/user/1，通过Ribbon组件，就变成了http://localhost:8081。显然，Ribbon组件根据user-service这一服务名称，获取到了服务实例的ip和端口。

4.2 源码解读

进入@LoadBalanced注解的源码：

由上图可知，Ribbon组件的核心类是：LoadBalancerClient。

由上图可知，LoadBalancerClient接口定义了3个方法，其中execute()方法就用于执行RestTemplate发起的请求。该方法在RibbonLoadBalancerClient实现类中具体实现：

• getLoadBalancer(serviceId)：该方法会根据服务id获取负载均衡器ILoadBalancer，而ILoadBalancer会拿着服务id去eureka-server中获取服务列表并保存起来。

• getServer(loadBalancer, hint)：该方法会利用内置的负载均衡算法，从服务列表中选择一个。本例中，选择了8081端口的user-service服务。

由上图可知，getServer()方法会转调chooseServer()方法：

由上图可知，chooseServer()方法中，会从变量rule中选择一个server：

由上图可知，变量rule默认是一个RoundRobinRule对象，类名直译过来就是轮询的Robin规则。

可见，默认情况下，Robin的负载均衡算法就是轮询。

另外，Robin拦截RestTemplate请求是通过LoadBalancerInterceptor类来实现的：

由上图可知，intercept()方法拦截了用户的HttpRequest请求，然后做了几件事：

• request.getURI() ：获取请求uri，本例中就是http://user-service/user/2
• originalUri.getHost() ：获取uri路径的主机名，其实就是服务id，即user-service
• this.loadBalancer.execute()：处理服务id和用户请求。

小结：

如上图所示，Ribbon负载均衡策略的基本流程如下：

• 1）order-service(8080)服务发起RestTemplate请求：http://user-service/user/2
• 2）LoadBalancerInterceptor拦截RestTemplate请求，从请求url中获取服务名称，也就是user-service，然后调用RibbonLoadBalancerClient的execute()方法
• 3）execute()方法中，首先会通过DynamicServerListLoadBalancer，根据user-service到eureka-server中拉取服务列表；eureka-server返回列表，即localhost:8081、localhost:8082
• 4）继续执行execute()方法，通过内置的轮询负载均衡策略，从列表中选择一个，例如localhost:8082
• 5）RibbonLoadBalancerClient修改请求地址，用localhost:8082替代user-service，得到http://localhost:8082/user/2，发起真实请求。

4.3 负载均衡策略

4.3.1 内置的负载均衡策略

内置的负载均衡策略都定义在IRule接口中。IRule接口有很多不同的实现类：

内置的负载均衡策略类	策略说明
RoundRobinRule	通过简单的轮询 来选择服务器。它是Ribbon默认的负载均衡规则。
AvailabilityFilteringRule	对以下两种服务器进行忽略： （1）默认情况下，这台服务器如果3次连接失败，这台服务器就会被设置为"短路"状态 。短路状态将持续30秒，如果再次连接失败，短路的持续时间就会几何级地增加。 （2）并发数过高的服务器。并发连接数的上线可以进行配置。
WeightedResponseTimeRule	为每一个服务器赋予一个权重值。服务器响应时间越长，这个服务器的权重就越小。这个规则会随机选择服务器，这个权重值会影响服务器的选择。
ZoneAvoidanceRule	以区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类，这个Zone可以理解为一个机房、一个机架等，而后再对Zone内的多个服务做轮询。
BestAvailableRule	忽略那些短路的服务器，并选择并发数较低的服务器。
RandomRule	随机选择一个可用的服务器。
RetryRule	重试机制的选择逻辑。

4.3.2 自定义负载均衡策略

如果想要自定义负载均衡策略，有两种方式可以实现：

4.3.2.1 方式一：定义IRule

在order-service工程的OrderApplication启动类中，定义一个新的IRule：

// com.star.order.OrderApplication

@Bean
public IRule RandomRule() {
    return new RandomRule();
}

4.3.2.2 方式二：配置文件

修改order-service工程的application.yml配置文件，添加新的负载均衡策略配置：

# sc_demo/order-service/src/main/resources/application.yml

user-service: # 给user-service服务配置负载均衡规则
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule # 负载均衡规则

注意，一般用默认的负载均衡策略，不做修改。

4.4 饥饿加载

Ribbon默认是采用懒加载，即第一次访问时才会去创建LoadBalanceClient，请求时间会很长。

而饥饿加载则会在项目启动时创建，降低第一次访问的耗时，可以通过下面配置开启饥饿加载：

# order-service/src/main/resources/application.yml

ribbon:
  eager-load:
    enabled: true
    clients: user-service

5 Nacos注册中心

5.1 认识和安装Nacos

Nacos是阿里巴巴的产品，现在是SpringCloud中的一个组件。相比Eureka，它功能更加丰富，在国内受欢迎程度较高。其官网地址是：https://nacos.io/。

windows环境下Nacos的安装步骤如下：

• 1）下载安装包

在Nacos的GitHub页面，提供有下载链接，可以下载编译好的Nacos服务端或者源代码：

GitHub主页：https://github.com/alibaba/nacos

GitHub的Release下载页：https://github.com/alibaba/nacos/releases

此处下载windows版本：nacos-server-2.3.2.zip。

• 2）解压缩

将下载的nacos-server-2.3.2.zip解压到任意非中文目录下，如图：

• 3）端口配置

Nacos的默认端口是8848，可以进入nacos的conf目录，修改application.properties配置文件中的端口：

• 4）启动Nacos

进入bin目录，执行以下命令启动Nacos：

startup.cmd -m standalone

• 5）访问Nacos

在浏览器输入地址：http://127.0.0.1:8848/nacos：

5.2 服务注册到Nacos

Nacos是SpringCloudAlibaba的组件，而SpringCloudAlibaba也遵循SpringCloud中定义的服务注册、服务发现规范。因此使用Nacos和使用Eureka对于微服务来说，并没有太大区别。

主要差异在于：依赖不同、服务地址不同。

服务注册到Nacos的步骤如下：

• 1）引入依赖

在sc_demo父工程的pom文件中的<dependencyManagement>中引入SpringCloudAlibaba的依赖：

<!--sc_demo/pom.xml-->

<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-alibaba-dependencies</artifactId>
    <version>2.2.6.RELEASE</version>
    <type>pom</type>
    <scope>import</scope>
</dependency>

然后在user-service和order-service工程中的pom文件中引入nacos-discovery依赖：

<!--sc_demo/user-service/pom.xml-->
<!--sc_demo/order-service/pom.xml-->

<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
</dependency>

然后注释掉eureka的依赖。

• 2）配置Nacos地址

在user-service和order-service工程的application.yml文件中添加nacos地址：

# sc_demo/user-service/src/main/resources/application.yml
# sc_demo/order-service/src/main/resources/application.yml

spring:
  cloud:
    nacos:
      server-addr: localhost:8848

然后注释掉eureka的配置。

• 3）启动微服务

启动user-service(8081)和order-service(8080)服务，在nacos管理页面，可以看到微服务信息：

5.3 服务分级存储模型

5.3.1 同机房集群

一个服务可以有多个实例，并且可以分布于全国各地的不同机房，例如user-service，可以有:

• 127.0.0.1:8081，在上海机房
• 127.0.0.1:8082，在上海机房
• 127.0.0.1:8083，在杭州机房

Nacos会将同一机房内的实例划分为一个集群。

也就是说，一个服务可以包含多个集群，每个集群下又有多个实例，如杭州、上海集群，从而形成分级模型，如图：

微服务互相访问时，应该尽可能访问同集群实例，因为本地访问速度更快。当本集群内不可用时，才访问其它集群。例如杭州机房内的order-service应优先访问同机房的user-service，如图：

5.3.2 给服务实例配置集群

修改user-service工程的配置文件application.yml，添加集群配置：

# sc_demo\user-service\src\main\resources\application.yml

spring:
  cloud:
    nacos:
      discovery:
        cluster-name: HangZhou

重启user-service的两个实例(8081、8082)，在Nacos控制台查看服务集群：

再启动一个user-service的8083端口实例，配置其集群为上海：

在Nacos控制台查看服务集群：

5.3.3 同集群优先的负载均衡

Nacos中提供了一个NacosRule的实现，可以优先从同集群中挑选实例。

• 1）给order-service配置集群

将order-service(8080)实例的集群配置为杭州，那么order-service(8080)实例就和user-service的8081、8082实例在同一机房：

# sc_demo\order-service\src\main\resources\application.yml

spring:
  cloud:
    nacos:
      discovery:
        cluster-name: HangZhou

• 2）修改负载均衡策略

# sc_demo\order-service\src\main\resources\application.yml

# 给user-service服务配置负载均衡规则
user-service: 
  ribbon:
    NFLoadBalancerRuleClassName: com.alibaba.cloud.nacos.ribbon.NacosRule 

• 3）功能测试

重启order-service(8080)实例，在Nacos控制台查看服务集群：

调用http://127.0.0.1:8080/order/102接口，由【4.2 源码解读】的分析可知，程序会进入BaseLoadBalancer的chooseServer()方法：

由上图可知，此时的负载均衡策略是我们自己配置的NacosRule。进入NacosRule类的choose()方法，其源码的核心步骤如下：

// com.alibaba.cloud.nacos.ribbon.NacosRule

@Override
public Server choose(Object key) {
    try {
        // 获取集群名称
        String clusterName = this.nacosDiscoveryProperties.getClusterName();
        // ...
        // 获取可选的实例
        List<Instance> instances = namingService.selectInstances(name, group, true);
        // ...
        List<Instance> instancesToChoose = instances;
        if (StringUtils.isNotBlank(clusterName)) {
            // 遍历可选的实例，找出集群名称一致的实例
            List<Instance> sameClusterInstances = instances.stream()
                    .filter(instance -> Objects.equals(clusterName,
                            instance.getClusterName()))
                    .collect(Collectors.toList());
            // 赋值给instancesToChoose
            if (!CollectionUtils.isEmpty(sameClusterInstances)) {
				instancesToChoose = sameClusterInstances;
			}
            // ...
        }
        // 转换instancesToChoose后返回
        Instance instance = ExtendBalancer.getHostByRandomWeight2(instancesToChoose);
        return new NacosServer(instance);
    } // catch ...
}

由以上源码可知，NacosRule负载均衡策略确实会优先选择同集群下的实例，如图：

5.4 权重配置

在实际部署中，不同的服务器设备性能之间会存在差异，部分实例所在机器性能较好，另一些较差，而我们都希望性能好的机器承担更多的用户请求*。

但默认情况下，NacosRule是同集群内随机挑选，不会考虑机器的性能问题。为此，Nacos提供了权重配置来控制访问频率，权重越大则访问频率越高。

在Nacos控制台，找到user-service的集群列表，点击编辑，即可修改权重：

在弹出的编辑窗口，修改权重：

需要注意的是，如果权重修改为0，则该实例永远不会被访问。

5.5 环境隔离

Nacos提供了namespace来实现环境隔离功能：

• nacos中可以有多个namespace
• namespace下可以有group、service等
• 不同namespace之间相互隔离，不同namespace的服务互相不可见

5.5.1 创建namespace

默认情况下，所有service、data、group都在同一个namespace，名为public：

选择左侧菜单"命名空间"，点击"新建命名空间"，填写表单，即可创建一个新的namespace：

5.5.2 给微服务配置namespace

给微服务配置namespace只能通过修改配置来实现。例如，修改order-service工程的application.yml文件：

# sc_demo\order-service\src\main\resources\application.yml

spring:
  cloud:
    nacos:
      server-addr: localhost:8848
      discovery:
        cluster-name: HangZhou
        namespace: c18fb6e9-36cb-4fa5-ae2d-bf32409db5d4 # 命名空间，填ID

重启order-service(8080)服务，在Nacos控制台查看服务列表：

此时再调用http://127.0.0.1:8080/order/102接口，因为namespace不同，会导致找不到user-service实例，控制台会报错：

04-26 12:05:19:116 ERROR 39076 --- [nio-8080-exec-1] o.a.c.c.C.[.[.[/].[dispatcherServlet]    : Servlet.service() for servlet [dispatcherServlet] in context with path [] threw exception [Request processing failed; nested exception is java.lang.IllegalStateException: No instances available for user-service] with root cause

java.lang.IllegalStateException: No instances available for user-service

5.6 永久实例

Nacos的服务实例分为两种类型：

• 临时实例 ：如果实例宕机超过一定时间，会从服务列表剔除，默认的类型。
• 非临时实例：如果实例宕机，不会从服务列表剔除，也可以叫永久实例。

可以通过配置文件，配置一个服务实例为永久实例：

# application.yml

spring:
  cloud:
    nacos:
      discovery:
        ephemeral: false # 设置为非临时实例

5.7 Nacos与Eureka的区别

Nacos和Eureka整体结构类似，服务注册、服务拉取、心跳等待，但是也存在一些差异：

• 共同点

  • 都支持服务注册和服务拉取
  • 都支持服务提供者心跳方式做健康检测

• 不同点

  • Nacos支持服务端主动检测提供者状态：临时实例采用心跳模式，非临时实例采用主动检测模式
  • 临时实例心跳不正常会被剔除，非临时实例则不会被剔除
  • Nacos支持服务列表变更的消息推送模式，服务列表更新更及时
  • Nacos集群默认采用AP方式，当集群中存在非临时实例时，采用CP模式；Eureka采用AP方式

...

本节完，更多内容请查阅分类专栏：SpringCloud学习笔记

本文涉及代码下载地址：https://gitee.com/weidag/springcloud_learning.git

感兴趣的读者还可以查阅我的另外几个专栏：

• SpringBoot源码解读与原理分析(已完结)
• MyBatis3源码深度解析(已完结)
• Redis从入门到精通(已完结)
• MyBatisPlus详解(已完结)
• 再探Java为面试赋能(持续更新中...)