Ribbon负载均衡器

1. 负载均衡器

目前主流的负载方案分为以下两种:(面试题

1.1 服务端负载均衡

在消费者和服务提供方中间使用独立的代理方式进行负载,有硬件的(比如 F5),也有软件的(比如 Nginx,openResty)

例如Nginx,通过Nginx进行负载均衡,先发送请求,然后通过负载均衡算法,在多个服务器之间选择一个进行访问;即在服务器端再进行负载均衡算法分配。

2 客户端负载均衡器

客户端根据自己的请求情况做负载均衡,Ribbon 就属于客户端自己做负载均衡。

2.Ribbon

Spring Cloud Ribbon是基于Netflix Ribbon 实现的一套客户端的负载均衡工具,Ribbon客户端组件提供一系列的完善的配置,如超时,重试等。通过LoadBalancer获取到服务提供的所有机器实例,Ribbon会自动基于某种规则(轮询,随机)去调用这些服务。Ribbon也可以实现我们自己的负载均衡算法。

3.常见的负载均衡算法

如果使用的RestTemplate进行服务调用,那么创建RestTemplate的方法上面加@LoadBalanced注解就会开启Ribbon的负载均衡,Ribbon负载均衡有以下7中规则,默认轮询

  1. RoundRobinRule(轮询规则): 最简单的负载均衡策略,按照顺序循环地将请求分发到每个服务实例。每个服务实例依次接收请求,实现基本的公平分配。

  2. AvailabilityFilteringRule(可用性过滤规则): 此规则会先从服务列表中过滤掉由于多次访问失败而标记为"短路"的服务实例,以及那些当前并发连接数过高的实例,然后采用轮询的方式选择一个可用的服务实例。它可以有效避免将请求分发到已知有问题的实例上。

  3. WeightedResponseTimeRule(加权响应时间规则): 根据每个服务实例的历史响应时间动态调整其权重,响应时间越快的服务实例被选中的概率越高。这种方式可以逐渐将更多流量导向性能更好的服务实例。

  4. RandomRule(随机规则): 随机选择一个服务实例来处理请求。虽然简单,但在某些场景下可以减少特定服务实例被连续击中的可能性。

  5. BestAvailableRule(最佳可用规则): 选择当前并发请求数最少的服务实例,如果有多个这样的实例,则随机选择一个。这个策略侧重于选择当前负载较低的服务。

  6. ZoneAvoidanceRule(区域避免规则): 这个规则不仅考虑实例的可用性,还会考虑网络延迟,倾向于选择同区域中表现最好的服务实例。特别适合部署在多区域环境中的服务,以减少跨区域的网络延迟。

这些规则通过实现 IRule 接口来定义,允许用户根据自己的业务需求选择合适的负载均衡策略。此外,Ribbon 还支持自定义规则,用户可以根据特定场景实现自己的负载均衡逻辑

4.Nacos中使用Rabbion

nacos-discovery已经包含Ribbon的依赖,不需要再单独引入Ribbon

4.1添加@LoadBalanced注解

java 复制代码
@Configuration
public class RestConfig {

    @Bean
    @LoadBalanced 
   //注意:需要添加@LoadBalanced注解
    //如果使用了注册中心,必须加@LoadBalanced
    //作用:RestTemplate 就会把url上面的一级目录最为服务名,去注册中心找到对应的ip列表,
    //根据算法使用其中一个ip,调用该ip对应的接口
    public RestTemplate restTemplate() {
        return new RestTemplate();
    }
}

4.2 调用

java 复制代码
@SpringBootApplication
public class NacosApplication {

    public static void main(String[] args) {

        ApplicationContext ctx = SpringApplication.run(NacosApplication.class, args);

        RestTemplate restTemplate = ctx.getBean(RestTemplate.class);
        String forObject = restTemplate.getForObject("http://nacos-b/hello", String.class);
        System.out.println(forObject);

    }

}

5.Ribbon负载均衡策略

IRule这是所有负载均衡策略的父接口,里边的核心方法就是choose方法,用来选择一个服务实例。

6.修改默认负载均衡策略

6.1使用其它规则

java 复制代码
@Configuration
public class MyRuleConfig {
    @Bean
    public IRule rule(){
        return new RandomRule();
    }
}

6.2自定义规则

java 复制代码
public class MyRule extends AbstractLoadBalancerRule {

    @Autowired
    private NacosDiscoveryProperties nacosDiscoveryProperties;

    //JUC包下,线程安装的Integer
    private static AtomicInteger count = new AtomicInteger(0);
    private Server server = null;
    @Override
    @SneakyThrows
    public Server choose(Object key) {
        BaseLoadBalancer loadBalancer = (BaseLoadBalancer) this.getLoadBalancer();
        //获取服务名称
        String serverName = loadBalancer.getName();
        NamingService namingService = nacosDiscoveryProperties.namingServiceInstance();
        List<Instance> allInstances = namingService.getAllInstances(serverName, true);

        //6062
        Instance maxInstance = allInstances.stream().max(Comparator.comparing(Instance::getWeight)).get();
        //6061
        Instance minInstance = allInstances.stream().min(Comparator.comparing(Instance::getWeight)).get();

        int count2 = count.addAndGet(1);
        System.out.println(count2);
        int mod = count2 % 5; //取模运算  5,10,15,20,25 ...
        if(mod == 0){  //当次数是5的倍数的时候,mod就是0, 6061
            server = new Server(minInstance.getIp(),minInstance.getPort());
        } else  {
            //mod 是 1,2,3,4 的时候打到权重高的这个机器上  6062
            server = new Server(maxInstance.getIp(),maxInstance.getPort());
        }
        return server;
    }


    @Override
    public void initWithNiwsConfig(IClientConfig iClientConfig) {

    }
}

6.3 使用自己的规则(两种配置方式)

6.3.1 使用注解配置

java 复制代码
@Configuration

@RibbonClients(defaultConfiguration = MyRule.class) //全局设置负载规则,默认是轮询的
@RibbonClient(name = "order-nacos-a", configuration = MyRule.class) //针对某个服务,特殊配置
public class RibbonConfig {

    /**
     * 全局配置
     * 指定负载均衡策略

     */
    @Bean
    public IRule iRule() {

        //使用随机的策略
        return new RandomRule();

        //指定使用Nacos提供的负载均衡策略
        return new NacosRule();
        //使用自己的规则
        return  new MyRule();

    }}

6.3.2 基于配置文件配置,调用指定微服务提供的服务时,使用对应的负载均衡算法

java 复制代码
#配置具体某一个服务个性化规则
nacos-b.ribbon.NFLoadBalancerRuleClassName=com.beiyou.config.MyRule


##配置全局的负载均衡规则 (不生效)
default.ribbon.NFLoadBalancerRuleClassName=com.netflix.loadbalancer.RoundRobinRule

如果同时应用了以上两种方式去配置负载均衡,注解的优先级更高,则以注解为准.

因为配置文件的加载顺序在注解之前,后加载的配置会覆盖先前配置。

推荐使用配置文件,可以放进nacos,比较灵活。

7.饥饿加载 (面试题)

在进行服务调用的时候,如果网络情况不好,第一次调用会超时。

Ribbon默认懒加载,意味着只有在发起调用的时候才会创建客户端。

开启饥饿加载,解决第一次调用慢的问题:

java 复制代码
ribbon:
  eager-load:
    #开启ribbon饥饿加载
    enabled: true
    #配置order-service使用ribbon饥饿加载,多个使用逗号分隔
    clients: order-service

8.内核原理

相关推荐
群联云防护小杜4 小时前
如何给负载均衡平台做好安全防御
运维·服务器·网络·网络协议·安全·负载均衡
码农爱java6 小时前
设计模式--抽象工厂模式【创建型模式】
java·设计模式·面试·抽象工厂模式·原理·23种设计模式·java 设计模式
Jiude7 小时前
算法题题解记录——双变量问题的 “枚举右,维护左”
python·算法·面试
ljh5746491198 小时前
负载均衡的原理
运维·负载均衡
长安051113 小时前
面试经典题目:LeetCode134_加油站
c++·算法·面试
正在绘制中13 小时前
Java重要面试名词整理(一):MySQL&JVM&Tomcat
java·开发语言·面试
沉默王二14 小时前
虾皮开的很高,还有签字费。
后端·面试·github
Do14 小时前
时间系列三:实现毫秒级倒计时
前端·javascript·面试
小蜗牛慢慢爬行14 小时前
有关异步场景的 10 大 Spring Boot 面试问题
java·开发语言·网络·spring boot·后端·spring·面试
与君共勉1213814 小时前
Nginx 负载均衡的实现
运维·服务器·nginx·负载均衡