【SpringCloud】负载均衡(Spring Cloud LoadBalancer)

负载均衡

当服务流量增大时，通常会采用增加机器的方式进行扩容。负载均衡就是用来在多个机器或者其他资源中，按照一定的规则合理分配负载。其中的实现可以分成客户端负载均衡和服务端负载均衡。

服务端负载均衡

在服务端进行负载均衡的算法分配。

比较有名的服务端负载均衡器是Nginx。请求先到达Nginx负载均衡器，然后通过负载均衡算法，在多个服务器之间选择一个进行访问。

客户端负载均衡

Spring Cloud LoadBalancer 是 Spring Cloud 最新版本的负载均衡集成组件，取代了早期的 Ribbon，也是本文使用的负载均衡组件。它允许将负载均衡功能作为库集成到客户端，而不再依赖于单独的负载均衡设备。客户端通过从注册中心（如 Eureka）获取服务列表，并使用负载均衡算法选择一个服务器来发送请求。这种方式不仅提升了系统的灵活性和可扩展性，还通过在客户端实现负载均衡来优化服务请求的分发和性能。

二者区别

位置：服务端负载均衡位于服务端，而客户端负载均衡位于客户端。
作用对象：服务端负载均衡处理所有入站请求，而客户端负载均衡处理发出的请求。
控制粒度：服务端负载均衡可以全局控制请求的分发，而客户端负载均衡可以基于局部条件和策略做出请求选择。
服务端负载均衡是一种较为传统的方法，适用于管理入站到一个服务的所有请求，特别是在客户端数量众多时。它可以简化客户端逻辑，使客户端无需关心后端服务器的复杂性。
客户端负载均衡则允许更灵活的请求处理，特别适用于分布式系统架构，如微服务架构，其中每个服务可能需要根据不同的标准选择不同的后端服务。

Spring Cloud LoadBalancer

从Spring Cloud 2020.0.1版本开始，移除了Ribbon组件，改为使用Spring Cloud LoadBalancer组件来实现客户端负载均衡。

模拟多服务实例

对于上一篇的订单服务调用商品服务http://t.csdnimg.cn/r3KGs 当时只有一个商品服务。这里模拟多个商品服务，让订单服务去调用。

总共启动三个商品服务。

请求多次订单服务。

让订单服务多次调用商品服务，观察日志。

每次只用一个实例在工作。

手动负载均衡

java 复制代码

    //计数器
    private AtomicInteger count = new AtomicInteger(1);
    private List<ServiceInstance> instances;

    @PostConstruct
    public void init(){
        //从Eureka中获取服务列表
        instances = discoveryClient.getInstances("product-service");
    }


    public OrderInfo selectOrderById(Integer orderId){
        OrderInfo orderInfo = orderMapper.selectOrderById(orderId);
        //计算轮流的实例idnex
        int index= count.getAndIncrement() % instances.size();
        //获取实例
        String uri = instances.get(index).getUri().toString();
        //拼接url
        String url = uri+"/product/"+orderInfo.getProductId();
        log.info("远程调用url:{}", url);
        ProductInfo productInfo = restTemplate.getForObject(url, ProductInfo.class);
        orderInfo.setProductInfo(productInfo);
        return orderInfo;

    }

使用组件

这里我们使用Spring Cloud LoadBalancer来实现客户端负载均衡。

添加注解

给RestTemplate这个Bean添加@LoadBalanced注解

java 复制代码

@Configuration
public class BeanConfig {
    @LoadBalanced
    @Bean
    public RestTemplate restTemplate(){
        return new RestTemplate();
    }
}

修改IP端口为服务名

java 复制代码

    public OrderInfo selectOrderById(Integer orderId){
        OrderInfo orderInfo = orderMapper.selectOrderById(orderId);
        String url = "http://product-service/product/"+orderInfo.getProductId();
        log.info("远程调用url:{}", url);
        ProductInfo productInfo = restTemplate.getForObject(url, ProductInfo.class);
        orderInfo.setProductInfo(productInfo);
        return orderInfo;

    }

观察日志

可以看出成功实现了负载均衡。

自定义负载均衡策略

负载均衡策略一般有轮询，随机。Spring Cloud LoadBalancer默认使用的是轮询。接下来将自定义一个随机的算法。

定义随机算法对象

java 复制代码

import org.springframework.cloud.client.ServiceInstance;
import org.springframework.cloud.loadbalancer.core.RandomLoadBalancer;
import org.springframework.cloud.loadbalancer.core.ReactorLoadBalancer;
import org.springframework.cloud.loadbalancer.core.ServiceInstanceListSupplier;
import org.springframework.cloud.loadbalancer.support.LoadBalancerClientFactory;
import org.springframework.context.annotation.Bean;
import org.springframework.core.env.Environment;

// 不需要Configuration注解，只需要在组件扫描范围内即可
public class LoadBalancerConfig {
@Bean
ReactorLoadBalancer<ServiceInstance> randomLoadBalancer(Environment environment,
                                                        LoadBalancerClientFactory loadBalancerClientFactory) {
        String name = environment.getProperty(LoadBalancerClientFactory.PROPERTY_NAME);
        System.out.println("==============" + name);
        return new RandomLoadBalancer(loadBalancerClientFactory.getLazyProvider(name,
                  ServiceInstanceListSupplier.class), name);
        }
}

使用注解

使用 @LoadBalancerClient 或者 @LoadBalancerClients 注解在RestTemplate配置类的上方。

java 复制代码

import org.springframework.cloud.client.loadbalancer.LoadBalanced;
import org.springframework.cloud.loadbalancer.annotation.LoadBalancerClient;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.web.client.RestTemplate;

// name = "product-service" 表示只对 product-service 使用 LoadBalancerConfig 配置
@LoadBalancerClient(name = "product-service",
        configuration = LoadBalancerConfig.class)
@Configuration
public class BeanConfig {
    @LoadBalanced
    @Bean
    public RestTemplate restTemplate(){
        return new RestTemplate();
    }
}

LoadBalancer原理

LoadBalancer的实现主要依赖于LoadBalancerInterceptor类。该类会拦截RestTemplate的请求，然后通过Eureka从服务注册中心根据服务ID获取服务列表。随后，利用负载均衡算法选取真实的服务地址信息，并替换原始的服务ID。