【微服务架构】本地负载均衡的实现(基于随机算法)

前言

负载均衡
  • 概念:一种将网络流量或业务请求均匀分配到多个服务器或服务实例上的技术,旨在提高系统的可用性、性能和可伸缩性。
  • 作用:
    • 提高性能:通过将请求分散到多个实例上,避免单个实例因请求过多而过载,从而提高系统的整体处理能力。
    • 增强可用性:当某一实例发生故障时,负载均衡器可以自动将流量重定向到其他健康的实例,确保服务仍然可用。
    • 实现可伸缩性:可以根据系统的负载情况,动态地添加或删除服务实例,以适应业务需求的变化。
  • 实现方式
    • 服务器端负载均衡:SpringCloud的LoadBalancer、Netflix的Ribbon
    • 客户端负载均衡:本地负载均衡器【可基于特定算法手写】
    • 中间层负载均衡:Nginx
负载均衡器
  • 概念:是一种软件或硬件设备,用于在多个服务器或服务实例之间分发网络流量或业务请求。

常见负载均衡算法【策略】

  • 随机算法
    • 随机选取集群中的一台服务器访问。
    • 随着客户端调用服务端的次数增多,其实际效果越来越接近于平均分配调用量到后端的每一台服务器。
  • 轮询算法 【默认】
    • 按顺序向每个服务实例发送请求,适用于系统中的节点处理能力相同的情况。
  • 权重算法
    • 给配置高、负载低的机器配置更高的权重,让其处理更多的请求;
    • 而配置低、负载高的机器,给其分配较低的权重,降低其系统负载。

通俗理解

  • 在微服务架构中,为保证项目的高可用性【如故障转移】和可拓展性【如动态服务注册】,通常需要对特定服务进行集群;
  • 而调用服务者消费者通过RPC远程调用目标服务生产者的接口时则存在:"具体应该调用集群中的哪个服务?"的问题;
  • 此时需要通过负载均衡实现具体服务的调用目标服务实例的筛选;
简单概述

负载均衡 = 负载均衡器 + 负载均衡算法【策略】 ---》 按特定策略从服务集群中挑选一个服务实例【服务器】调用。


实践(以随机算法为例)

java 复制代码
package com.xiaohan.loadbalance;

/**
 * @program: SpringCloud_Demo
 * @description: 本地负载均衡器的实现:随机算法
 * @author: 韩小豪
 * @create: 2025-01-04 13:46
 **/

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.cloud.client.ServiceInstance;
import org.springframework.cloud.client.discovery.DiscoveryClient;
import org.springframework.stereotype.Component;

import java.util.List;
import java.util.Random;

/**
 * 随机算法实现
 * 实现自定义的本地负载均衡接口【策略模式】
 */
@Component
public class RandomLoadBalance implements LoadBalance {  

	@Autowired
	private DiscoveryClient discoveryClient;  //用以从服务注册中心的Server端获取已注册的目标服务的ip地址和端口号

	@Override
	public ServiceInstance getInstance(String serviceId) {
		//获取目标服务可用的所有实例【可用的ip地址和端口号】
		//根据服务名称(id)从注册中心中获取其的地址和端口号:返回数组,因为目标服务可能做集群
		List<ServiceInstance> serviceInstances = discoveryClient.getInstances(serviceId);

		//判空
		if (serviceInstances == null || serviceInstances.isEmpty()) {  //没有可用服务
			return null;
		}

		/**
		 * 随机算法思想:设置随机数的取值范围,形参可以直接传入目标服务的可用实例数
		 * 例:当目标服务存在两个可用实例时:数组下标为0和1
		 * 此时random.nextInt(2)只会在0、1之间随机取值,而不会取到2
		 */
		Random random = new Random();
		int index = random.nextInt(serviceInstances.size());

		//返回服务列表中具体要调用的服务实例
		return serviceInstances.get(index);
	}
}

结语

  • 了解原理和具体实现才利于更好使用【理解 > 会用】
  • 基于轮训和权重算法的实现见首页文章后续更新
相关推荐
Java爱好狂.4 小时前
Java初学者如何一周速通SpringBoot!
java·spring boot·后端·spring·高并发·架构师·java面试
海宇数据5 小时前
零信任架构实战:基于海宇网上踪迹欺诈行为识别构建自动化信贷资信评估网关
运维·人工智能·架构·自动化
翼龙云_cloud5 小时前
亚马逊云服务器服务代理商:Bedrock 实践经验 Serverless 架构下的 AI 自动化落地
服务器·架构·serverless·云计算·aws
烛影摇红透纱窗5 小时前
AI从零介绍代码架构的复盘(含要使用的提示词)
人工智能·架构
马良神笔6 小时前
2026 年Rag最近技术前沿总结
后端·python·django
程序猿DD6 小时前
同样10美元,OpenDesign和Command Code的DeepSeek V4.1 Flash额度到底有多少?
后端
高频因子挖掘机6 小时前
A股量化从日线升级到5分钟线:数据量增加后最先暴露哪些工程问题?
后端·github·api
高频因子挖掘机6 小时前
历史行情返回顺序变了,为什么按行号计算指标很危险?
后端·github·api
小天源7 小时前
从 Nginx 日志到访问分析:轻量化网站监测服务的架构实践
jvm·nginx·网络安全·架构·网络监控
数据工匠老o8 小时前
异构数据库DDL同步:260条链路的结构变更自动适配方案
数据库·架构