【微服务架构】本地负载均衡的实现(基于随机算法)

前言

负载均衡
  • 概念:一种将网络流量或业务请求均匀分配到多个服务器或服务实例上的技术,旨在提高系统的可用性、性能和可伸缩性。
  • 作用:
    • 提高性能:通过将请求分散到多个实例上,避免单个实例因请求过多而过载,从而提高系统的整体处理能力。
    • 增强可用性:当某一实例发生故障时,负载均衡器可以自动将流量重定向到其他健康的实例,确保服务仍然可用。
    • 实现可伸缩性:可以根据系统的负载情况,动态地添加或删除服务实例,以适应业务需求的变化。
  • 实现方式
    • 服务器端负载均衡:SpringCloud的LoadBalancer、Netflix的Ribbon
    • 客户端负载均衡:本地负载均衡器【可基于特定算法手写】
    • 中间层负载均衡:Nginx
负载均衡器
  • 概念:是一种软件或硬件设备,用于在多个服务器或服务实例之间分发网络流量或业务请求。

常见负载均衡算法【策略】

  • 随机算法
    • 随机选取集群中的一台服务器访问。
    • 随着客户端调用服务端的次数增多,其实际效果越来越接近于平均分配调用量到后端的每一台服务器。
  • 轮询算法 【默认】
    • 按顺序向每个服务实例发送请求,适用于系统中的节点处理能力相同的情况。
  • 权重算法
    • 给配置高、负载低的机器配置更高的权重,让其处理更多的请求;
    • 而配置低、负载高的机器,给其分配较低的权重,降低其系统负载。

通俗理解

  • 在微服务架构中,为保证项目的高可用性【如故障转移】和可拓展性【如动态服务注册】,通常需要对特定服务进行集群;
  • 而调用服务者消费者通过RPC远程调用目标服务生产者的接口时则存在:"具体应该调用集群中的哪个服务?"的问题;
  • 此时需要通过负载均衡实现具体服务的调用目标服务实例的筛选;
简单概述

负载均衡 = 负载均衡器 + 负载均衡算法【策略】 ---》 按特定策略从服务集群中挑选一个服务实例【服务器】调用。


实践(以随机算法为例)

java 复制代码
package com.xiaohan.loadbalance;

/**
 * @program: SpringCloud_Demo
 * @description: 本地负载均衡器的实现:随机算法
 * @author: 韩小豪
 * @create: 2025-01-04 13:46
 **/

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.cloud.client.ServiceInstance;
import org.springframework.cloud.client.discovery.DiscoveryClient;
import org.springframework.stereotype.Component;

import java.util.List;
import java.util.Random;

/**
 * 随机算法实现
 * 实现自定义的本地负载均衡接口【策略模式】
 */
@Component
public class RandomLoadBalance implements LoadBalance {  

	@Autowired
	private DiscoveryClient discoveryClient;  //用以从服务注册中心的Server端获取已注册的目标服务的ip地址和端口号

	@Override
	public ServiceInstance getInstance(String serviceId) {
		//获取目标服务可用的所有实例【可用的ip地址和端口号】
		//根据服务名称(id)从注册中心中获取其的地址和端口号:返回数组,因为目标服务可能做集群
		List<ServiceInstance> serviceInstances = discoveryClient.getInstances(serviceId);

		//判空
		if (serviceInstances == null || serviceInstances.isEmpty()) {  //没有可用服务
			return null;
		}

		/**
		 * 随机算法思想:设置随机数的取值范围,形参可以直接传入目标服务的可用实例数
		 * 例:当目标服务存在两个可用实例时:数组下标为0和1
		 * 此时random.nextInt(2)只会在0、1之间随机取值,而不会取到2
		 */
		Random random = new Random();
		int index = random.nextInt(serviceInstances.size());

		//返回服务列表中具体要调用的服务实例
		return serviceInstances.get(index);
	}
}

结语

  • 了解原理和具体实现才利于更好使用【理解 > 会用】
  • 基于轮训和权重算法的实现见首页文章后续更新
相关推荐
波力海苔夹心脆6758 分钟前
C# 序列化与反序列化详解:System.Text.Json、Newtonsoft.Json、XmlSerializer 用法、特性选项与安全实践
经验分享·后端·c#·json·.net
szxinmai主板定制专家44 分钟前
RK3588+FPGA异构架构|高速数据采集+边缘AI落地应用全解析
人工智能·嵌入式硬件·fpga开发·架构·zynq
JavaGuide1 小时前
NVIDIA 又开源了!这次给 AI Agent 加上权限管控
前端·后端
李福春1 小时前
降SpringAI阿里第1掌-亢龙有悔-识势选型
人工智能·架构·腾讯云架构师同盟
excel1 小时前
prisma 如何处理数据库竞态
前端·数据库·后端
李游Leo2 小时前
HarmonyOS 7 + ArkUI + RelationalStore 学习笔记:本地数据分层存储与状态持久化架构实践【鸿蒙心迹】
笔记·学习·架构·harmonyos
绿蕉2 小时前
从“叠积木补安全“到“设计即安全“:EE 架构里的安全左移革命
安全·架构
voipmaker2 小时前
AI 赋能安防系统演进:从硬件单品到场景化融合调度架构
人工智能·ai·架构
IT_陈寒3 小时前
Java线程池这破玩意,差点让我周末加班排查到凌晨
前端·人工智能·后端
广州山泉婚姻4 小时前
Go微服务落地:服务通信、注册发现完整实现分享
人工智能·深度学习·微服务