Ribbon负载均衡器

1. 负载均衡器

目前主流的负载方案分为以下两种:(面试题

1.1 服务端负载均衡

在消费者和服务提供方中间使用独立的代理方式进行负载,有硬件的(比如 F5),也有软件的(比如 Nginx,openResty)

例如Nginx,通过Nginx进行负载均衡,先发送请求,然后通过负载均衡算法,在多个服务器之间选择一个进行访问;即在服务器端再进行负载均衡算法分配。

2 客户端负载均衡器

客户端根据自己的请求情况做负载均衡,Ribbon 就属于客户端自己做负载均衡。

2.Ribbon

Spring Cloud Ribbon是基于Netflix Ribbon 实现的一套客户端的负载均衡工具,Ribbon客户端组件提供一系列的完善的配置,如超时,重试等。通过LoadBalancer获取到服务提供的所有机器实例,Ribbon会自动基于某种规则(轮询,随机)去调用这些服务。Ribbon也可以实现我们自己的负载均衡算法。

3.常见的负载均衡算法

如果使用的RestTemplate进行服务调用,那么创建RestTemplate的方法上面加@LoadBalanced注解就会开启Ribbon的负载均衡,Ribbon负载均衡有以下7中规则,默认轮询

  1. RoundRobinRule(轮询规则): 最简单的负载均衡策略,按照顺序循环地将请求分发到每个服务实例。每个服务实例依次接收请求,实现基本的公平分配。

  2. AvailabilityFilteringRule(可用性过滤规则): 此规则会先从服务列表中过滤掉由于多次访问失败而标记为"短路"的服务实例,以及那些当前并发连接数过高的实例,然后采用轮询的方式选择一个可用的服务实例。它可以有效避免将请求分发到已知有问题的实例上。

  3. WeightedResponseTimeRule(加权响应时间规则): 根据每个服务实例的历史响应时间动态调整其权重,响应时间越快的服务实例被选中的概率越高。这种方式可以逐渐将更多流量导向性能更好的服务实例。

  4. RandomRule(随机规则): 随机选择一个服务实例来处理请求。虽然简单,但在某些场景下可以减少特定服务实例被连续击中的可能性。

  5. BestAvailableRule(最佳可用规则): 选择当前并发请求数最少的服务实例,如果有多个这样的实例,则随机选择一个。这个策略侧重于选择当前负载较低的服务。

  6. ZoneAvoidanceRule(区域避免规则): 这个规则不仅考虑实例的可用性,还会考虑网络延迟,倾向于选择同区域中表现最好的服务实例。特别适合部署在多区域环境中的服务,以减少跨区域的网络延迟。

这些规则通过实现 IRule 接口来定义,允许用户根据自己的业务需求选择合适的负载均衡策略。此外,Ribbon 还支持自定义规则,用户可以根据特定场景实现自己的负载均衡逻辑

4.Nacos中使用Rabbion

nacos-discovery已经包含Ribbon的依赖,不需要再单独引入Ribbon

4.1添加@LoadBalanced注解

java 复制代码
@Configuration
public class RestConfig {

    @Bean
    @LoadBalanced 
   //注意:需要添加@LoadBalanced注解
    //如果使用了注册中心,必须加@LoadBalanced
    //作用:RestTemplate 就会把url上面的一级目录最为服务名,去注册中心找到对应的ip列表,
    //根据算法使用其中一个ip,调用该ip对应的接口
    public RestTemplate restTemplate() {
        return new RestTemplate();
    }
}

4.2 调用

java 复制代码
@SpringBootApplication
public class NacosApplication {

    public static void main(String[] args) {

        ApplicationContext ctx = SpringApplication.run(NacosApplication.class, args);

        RestTemplate restTemplate = ctx.getBean(RestTemplate.class);
        String forObject = restTemplate.getForObject("http://nacos-b/hello", String.class);
        System.out.println(forObject);

    }

}

5.Ribbon负载均衡策略

IRule这是所有负载均衡策略的父接口,里边的核心方法就是choose方法,用来选择一个服务实例。

6.修改默认负载均衡策略

6.1使用其它规则

java 复制代码
@Configuration
public class MyRuleConfig {
    @Bean
    public IRule rule(){
        return new RandomRule();
    }
}

6.2自定义规则

java 复制代码
public class MyRule extends AbstractLoadBalancerRule {

    @Autowired
    private NacosDiscoveryProperties nacosDiscoveryProperties;

    //JUC包下,线程安装的Integer
    private static AtomicInteger count = new AtomicInteger(0);
    private Server server = null;
    @Override
    @SneakyThrows
    public Server choose(Object key) {
        BaseLoadBalancer loadBalancer = (BaseLoadBalancer) this.getLoadBalancer();
        //获取服务名称
        String serverName = loadBalancer.getName();
        NamingService namingService = nacosDiscoveryProperties.namingServiceInstance();
        List<Instance> allInstances = namingService.getAllInstances(serverName, true);

        //6062
        Instance maxInstance = allInstances.stream().max(Comparator.comparing(Instance::getWeight)).get();
        //6061
        Instance minInstance = allInstances.stream().min(Comparator.comparing(Instance::getWeight)).get();

        int count2 = count.addAndGet(1);
        System.out.println(count2);
        int mod = count2 % 5; //取模运算  5,10,15,20,25 ...
        if(mod == 0){  //当次数是5的倍数的时候,mod就是0, 6061
            server = new Server(minInstance.getIp(),minInstance.getPort());
        } else  {
            //mod 是 1,2,3,4 的时候打到权重高的这个机器上  6062
            server = new Server(maxInstance.getIp(),maxInstance.getPort());
        }
        return server;
    }


    @Override
    public void initWithNiwsConfig(IClientConfig iClientConfig) {

    }
}

6.3 使用自己的规则(两种配置方式)

6.3.1 使用注解配置

java 复制代码
@Configuration

@RibbonClients(defaultConfiguration = MyRule.class) //全局设置负载规则,默认是轮询的
@RibbonClient(name = "order-nacos-a", configuration = MyRule.class) //针对某个服务,特殊配置
public class RibbonConfig {

    /**
     * 全局配置
     * 指定负载均衡策略

     */
    @Bean
    public IRule iRule() {

        //使用随机的策略
        return new RandomRule();

        //指定使用Nacos提供的负载均衡策略
        return new NacosRule();
        //使用自己的规则
        return  new MyRule();

    }}

6.3.2 基于配置文件配置,调用指定微服务提供的服务时,使用对应的负载均衡算法

java 复制代码
#配置具体某一个服务个性化规则
nacos-b.ribbon.NFLoadBalancerRuleClassName=com.beiyou.config.MyRule


##配置全局的负载均衡规则 (不生效)
default.ribbon.NFLoadBalancerRuleClassName=com.netflix.loadbalancer.RoundRobinRule

如果同时应用了以上两种方式去配置负载均衡,注解的优先级更高,则以注解为准.

因为配置文件的加载顺序在注解之前,后加载的配置会覆盖先前配置。

推荐使用配置文件,可以放进nacos,比较灵活。

7.饥饿加载 (面试题)

在进行服务调用的时候,如果网络情况不好,第一次调用会超时。

Ribbon默认懒加载,意味着只有在发起调用的时候才会创建客户端。

开启饥饿加载,解决第一次调用慢的问题:

java 复制代码
ribbon:
  eager-load:
    #开启ribbon饥饿加载
    enabled: true
    #配置order-service使用ribbon饥饿加载,多个使用逗号分隔
    clients: order-service

8.内核原理

相关推荐
时差9531 小时前
【面试题】Hive 查询:如何查找用户连续三天登录的记录
大数据·数据库·hive·sql·面试·database
CXDNW3 小时前
【网络面试篇】HTTP(2)(笔记)——http、https、http1.1、http2.0
网络·笔记·http·面试·https·http2.0
嚣张农民3 小时前
JavaScript中Promise分别有哪些函数?
前端·javascript·面试
阑梦清川7 小时前
在鱼皮的模拟面试里面学习有感
学习·面试·职场和发展
鱼跃鹰飞16 小时前
大厂面试真题-简单说说线程池接到新任务之后的操作流程
java·jvm·面试
程序员清风18 小时前
浅析Web实时通信技术!
java·后端·面试
测试199819 小时前
外包干了2年,快要废了。。。
自动化测试·软件测试·python·面试·职场和发展·单元测试·压力测试
mingzhi6120 小时前
渗透测试-快速获取目标中存在的漏洞(小白版)
安全·web安全·面试·职场和发展
嚣张农民20 小时前
一文简单看懂Promise实现原理
前端·javascript·面试
Liknana1 天前
Android 网易游戏面经
android·面试