1. 负载均衡器
目前主流的负载方案分为以下两种:(面试题)
1.1 服务端负载均衡
在消费者和服务提供方中间使用独立的代理方式进行负载,有硬件的(比如 F5),也有软件的(比如 Nginx,openResty)
例如Nginx,通过Nginx进行负载均衡,先发送请求,然后通过负载均衡算法,在多个服务器之间选择一个进行访问;即在服务器端再进行负载均衡算法分配。
2 客户端负载均衡器
客户端根据自己的请求情况做负载均衡,Ribbon 就属于客户端自己做负载均衡。
2.Ribbon
Spring Cloud Ribbon是基于Netflix Ribbon 实现的一套客户端的负载均衡工具,Ribbon客户端组件提供一系列的完善的配置,如超时,重试等。通过LoadBalancer获取到服务提供的所有机器实例,Ribbon会自动基于某种规则(轮询,随机)去调用这些服务。Ribbon也可以实现我们自己的负载均衡算法。
3.常见的负载均衡算法
如果使用的RestTemplate进行服务调用,那么创建RestTemplate的方法上面加@LoadBalanced注解就会开启Ribbon的负载均衡,Ribbon负载均衡有以下7中规则,默认轮询。
-
RoundRobinRule(轮询规则): 最简单的负载均衡策略,按照顺序循环地将请求分发到每个服务实例。每个服务实例依次接收请求,实现基本的公平分配。
-
AvailabilityFilteringRule(可用性过滤规则): 此规则会先从服务列表中过滤掉由于多次访问失败而标记为"短路"的服务实例,以及那些当前并发连接数过高的实例,然后采用轮询的方式选择一个可用的服务实例。它可以有效避免将请求分发到已知有问题的实例上。
-
WeightedResponseTimeRule(加权响应时间规则): 根据每个服务实例的历史响应时间动态调整其权重,响应时间越快的服务实例被选中的概率越高。这种方式可以逐渐将更多流量导向性能更好的服务实例。
-
RandomRule(随机规则): 随机选择一个服务实例来处理请求。虽然简单,但在某些场景下可以减少特定服务实例被连续击中的可能性。
-
BestAvailableRule(最佳可用规则): 选择当前并发请求数最少的服务实例,如果有多个这样的实例,则随机选择一个。这个策略侧重于选择当前负载较低的服务。
-
ZoneAvoidanceRule(区域避免规则): 这个规则不仅考虑实例的可用性,还会考虑网络延迟,倾向于选择同区域中表现最好的服务实例。特别适合部署在多区域环境中的服务,以减少跨区域的网络延迟。
这些规则通过实现
IRule
接口来定义,允许用户根据自己的业务需求选择合适的负载均衡策略。此外,Ribbon 还支持自定义规则,用户可以根据特定场景实现自己的负载均衡逻辑
4.Nacos中使用Rabbion
nacos-discovery已经包含Ribbon的依赖,不需要再单独引入Ribbon
4.1添加@LoadBalanced注解
java
@Configuration
public class RestConfig {
@Bean
@LoadBalanced
//注意:需要添加@LoadBalanced注解
//如果使用了注册中心,必须加@LoadBalanced
//作用:RestTemplate 就会把url上面的一级目录最为服务名,去注册中心找到对应的ip列表,
//根据算法使用其中一个ip,调用该ip对应的接口
public RestTemplate restTemplate() {
return new RestTemplate();
}
}
4.2 调用
java
@SpringBootApplication
public class NacosApplication {
public static void main(String[] args) {
ApplicationContext ctx = SpringApplication.run(NacosApplication.class, args);
RestTemplate restTemplate = ctx.getBean(RestTemplate.class);
String forObject = restTemplate.getForObject("http://nacos-b/hello", String.class);
System.out.println(forObject);
}
}
5.Ribbon负载均衡策略
IRule这是所有负载均衡策略的父接口,里边的核心方法就是choose方法,用来选择一个服务实例。
6.修改默认负载均衡策略
6.1使用其它规则
java
@Configuration
public class MyRuleConfig {
@Bean
public IRule rule(){
return new RandomRule();
}
}
6.2自定义规则
java
public class MyRule extends AbstractLoadBalancerRule {
@Autowired
private NacosDiscoveryProperties nacosDiscoveryProperties;
//JUC包下,线程安装的Integer
private static AtomicInteger count = new AtomicInteger(0);
private Server server = null;
@Override
@SneakyThrows
public Server choose(Object key) {
BaseLoadBalancer loadBalancer = (BaseLoadBalancer) this.getLoadBalancer();
//获取服务名称
String serverName = loadBalancer.getName();
NamingService namingService = nacosDiscoveryProperties.namingServiceInstance();
List<Instance> allInstances = namingService.getAllInstances(serverName, true);
//6062
Instance maxInstance = allInstances.stream().max(Comparator.comparing(Instance::getWeight)).get();
//6061
Instance minInstance = allInstances.stream().min(Comparator.comparing(Instance::getWeight)).get();
int count2 = count.addAndGet(1);
System.out.println(count2);
int mod = count2 % 5; //取模运算 5,10,15,20,25 ...
if(mod == 0){ //当次数是5的倍数的时候,mod就是0, 6061
server = new Server(minInstance.getIp(),minInstance.getPort());
} else {
//mod 是 1,2,3,4 的时候打到权重高的这个机器上 6062
server = new Server(maxInstance.getIp(),maxInstance.getPort());
}
return server;
}
@Override
public void initWithNiwsConfig(IClientConfig iClientConfig) {
}
}
6.3 使用自己的规则(两种配置方式)
6.3.1 使用注解配置
java
@Configuration
@RibbonClients(defaultConfiguration = MyRule.class) //全局设置负载规则,默认是轮询的
@RibbonClient(name = "order-nacos-a", configuration = MyRule.class) //针对某个服务,特殊配置
public class RibbonConfig {
/**
* 全局配置
* 指定负载均衡策略
*/
@Bean
public IRule iRule() {
//使用随机的策略
return new RandomRule();
//指定使用Nacos提供的负载均衡策略
return new NacosRule();
//使用自己的规则
return new MyRule();
}}
6.3.2 基于配置文件配置,调用指定微服务提供的服务时,使用对应的负载均衡算法
java
#配置具体某一个服务个性化规则
nacos-b.ribbon.NFLoadBalancerRuleClassName=com.beiyou.config.MyRule
##配置全局的负载均衡规则 (不生效)
default.ribbon.NFLoadBalancerRuleClassName=com.netflix.loadbalancer.RoundRobinRule
如果同时应用了以上两种方式去配置负载均衡,注解的优先级更高,则以注解为准.
因为配置文件的加载顺序在注解之前,后加载的配置会覆盖先前配置。
推荐使用配置文件,可以放进nacos,比较灵活。
7.饥饿加载 (面试题)
在进行服务调用的时候,如果网络情况不好,第一次调用会超时。
Ribbon默认懒加载,意味着只有在发起调用的时候才会创建客户端。
开启饥饿加载,解决第一次调用慢的问题:
java
ribbon:
eager-load:
#开启ribbon饥饿加载
enabled: true
#配置order-service使用ribbon饥饿加载,多个使用逗号分隔
clients: order-service