【微服务架构】本地负载均衡的实现(基于随机算法)

前言

负载均衡
  • 概念:一种将网络流量或业务请求均匀分配到多个服务器或服务实例上的技术,旨在提高系统的可用性、性能和可伸缩性
  • 作用:
    • 提高性能:通过将请求分散到多个实例上,避免单个实例因请求过多而过载,从而提高系统的整体处理能力。
    • 增强可用性:当某一实例发生故障时,负载均衡器可以自动将流量重定向到其他健康的实例,确保服务仍然可用。
    • 实现可伸缩性:可以根据系统的负载情况,动态地添加或删除服务实例,以适应业务需求的变化。
  • 实现方式
    • 服务器端负载均衡:SpringCloud的LoadBalancer、Netflix的Ribbon
    • 客户端负载均衡:本地负载均衡器【可基于特定算法手写】
    • 中间层负载均衡:Nginx
负载均衡器
  • 概念:是一种软件或硬件设备,用于在多个服务器或服务实例之间分发网络流量或业务请求。

常见负载均衡算法【策略】

  • 随机算法
    • 随机选取集群中的一台服务器访问。
    • 随着客户端调用服务端的次数增多,其实际效果越来越接近于平均分配调用量到后端的每一台服务器。
  • 轮询算法 【默认】
    • 按顺序向每个服务实例发送请求,适用于系统中的节点处理能力相同的情况。
  • 权重算法
    • 给配置高、负载低的机器配置更高的权重,让其处理更多的请求;
    • 而配置低、负载高的机器,给其分配较低的权重,降低其系统负载。

通俗理解

  • 在微服务架构中,为保证项目的高可用性【如故障转移】和可拓展性【如动态服务注册】,通常需要对特定服务进行集群;
  • 而调用服务者消费者通过RPC远程调用目标服务生产者的接口时则存在:"具体应该调用集群中的哪个服务?"的问题;
  • 此时需要通过负载均衡实现具体服务的调用目标服务实例的筛选
简单概述

负载均衡 = 负载均衡器 + 负载均衡算法【策略】 ---》 按特定策略从服务集群中挑选一个服务实例【服务器】调用。


实践(以随机算法为例)

java 复制代码
package com.xiaohan.loadbalance;

/**
 * @program: SpringCloud_Demo
 * @description: 本地负载均衡器的实现:随机算法
 * @author: 韩小豪
 * @create: 2025-01-04 13:46
 **/

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.cloud.client.ServiceInstance;
import org.springframework.cloud.client.discovery.DiscoveryClient;
import org.springframework.stereotype.Component;

import java.util.List;
import java.util.Random;

/**
 * 随机算法实现
 * 实现自定义的本地负载均衡接口【策略模式】
 */
@Component
public class RandomLoadBalance implements LoadBalance {  

	@Autowired
	private DiscoveryClient discoveryClient;  //用以从服务注册中心的Server端获取已注册的目标服务的ip地址和端口号

	@Override
	public ServiceInstance getInstance(String serviceId) {
		//获取目标服务可用的所有实例【可用的ip地址和端口号】
		//根据服务名称(id)从注册中心中获取其的地址和端口号:返回数组,因为目标服务可能做集群
		List<ServiceInstance> serviceInstances = discoveryClient.getInstances(serviceId);

		//判空
		if (serviceInstances == null || serviceInstances.isEmpty()) {  //没有可用服务
			return null;
		}

		/**
		 * 随机算法思想:设置随机数的取值范围,形参可以直接传入目标服务的可用实例数
		 * 例:当目标服务存在两个可用实例时:数组下标为0和1
		 * 此时random.nextInt(2)只会在0、1之间随机取值,而不会取到2
		 */
		Random random = new Random();
		int index = random.nextInt(serviceInstances.size());

		//返回服务列表中具体要调用的服务实例
		return serviceInstances.get(index);
	}
}

结语

  • 了解原理和具体实现才利于更好使用【理解 > 会用
  • 基于轮训和权重算法的实现见首页文章后续更新
相关推荐
65岁退休Coder1 分钟前
LangChain v1.3.4 笔记 - 07 补充:链式调用 LCEL
后端·python·langchain
卷无止境12 分钟前
FastAPI 部署在 Nginx 后面到底该怎么配
后端·python
码流怪侠13 分钟前
用 WiFi 信号数人头:howmanypeoplearearound 项目深度解析
后端·开源·github
心运软件40 分钟前
SpringBoot+ Vue校园社团管理平台的完整架构设计
vue.js·后端
敲代码的玉米C1 小时前
测试一直在写你的真实数据根
前端·人工智能·架构
烟漠河洛1 小时前
拆解跨平台统一发货架构及亚马逊MCF降本三成技术落地
架构
SL-staff1 小时前
JVS数字底座实践:如何复用企业文档能力快速构建知识类应用
低代码·微服务·springcloud·知识管理·权限控制·jvs·elasticsea
真上帝的左手1 小时前
10. 软件设计&架构-Spring Security 7 整合CAS SSO 单点登录
java·spring·架构·sso
Jodie同志1 小时前
第16~23天:持久化、HITL、流式、MCP与安全
前端·后端·agent
Jodie同志1 小时前
第1~15天:原生Agent、RAG与LangGraph基础(完整代码实操)
前端·后端·agent