在分布式系统中，负载均衡器扮演着"交通警察"的角色：它负责把来自客户端的请求合理地分配到多个后端节点上，既要保证系统吞吐，又要避免部分节点过载。常见的策略有轮询（Round Robin）、随机（Random）、最少连接（Least Connection）等。
今天我们要探讨的是------带权重的随机负载均衡（Weighted Random Load Balancing），并结合代码实现来解析其内部逻辑与应用场景。
1. 为什么需要"带权重"？
普通的随机负载均衡，每个节点被选中的概率是均等的。但在实际场景中，后端节点往往性能不一：
- GPU 算力不同的模型推理服务
- 配置不一的数据库主从节点
- 处理能力差异较大的微服务集群
如果依旧采用均等分配，性能较强的节点可能被"低估"，而弱节点可能被"压垮"。这时，引入权重 就是自然的选择：权重越高，被选中的概率越大。
2. 算法核心思想
带权随机的核心流程可以概括为三步：
-
计算权重总和
遍历所有节点，求和得到
totalWeight。 -
生成随机数
在
[0, totalWeight)区间生成随机数r。 -
查找区间
把各节点的权重看作一个连续区间，逐个累加，找到
r落入的区间，就选择对应节点。
举个例子：
节点权重如下：
| 节点 | 权重 | 区间 |
|---|---|---|
| A | 5 | [0, 5) |
| B | 3 | [5, 8) |
| C | 2 | [8, 10) |
- 如果
r=2→ 落在 [0,5)，选择 A - 如果
r=6→ 落在 [5,8)，选择 B - 如果
r=9→ 落在 [8,10)，选择 C
最终概率分布就是：A:50%，B:30%，C:20%。
权重区间条带 10 8 5 0 A (权重=5) 区间 0-5 B (权重=3) 区间 5-8 C (权重=2) 区间 8-10 随机数 r=6 命中区间 → 选中 B
3. Java 代码实现
下面给出一个简洁的实现版本：
java
import java.util.List;
import java.util.concurrent.ThreadLocalRandom;
public class WeightedRandomLoadBalancer implements LoadBalancer {
@Override
public ModelInstance choose(List<ModelInstance> instances, String modelKey) {
if (instances == null || instances.isEmpty()) return null;
// 1. 计算权重总和
int total = 0;
for (ModelInstance instance : instances) {
int w = safeWeight(instance.getWeight());
total += w;
}
// 2. 权重总和无效时退化为均匀随机
if (total <= 0) {
int i = ThreadLocalRandom.current().nextInt(instances.size());
return instances.get(i);
}
// 3. 权重随机选择
int r = ThreadLocalRandom.current().nextInt(total); // [0, total)
int acc = 0;
for (ModelInstance instance : instances) {
acc += safeWeight(instance.getWeight());
if (r < acc) return instance;
}
// 兜底返回最后一个
return instances.get(instances.size() - 1);
}
private int safeWeight(Integer w) {
return (w == null || w < 0) ? 1 : w; // 负权重或 null，兜底为1
}
}4. 关键代码解析
(1) 权重合法化
java
private int safeWeight(Integer w) {
return (w == null || w < 0) ? 1 : w;
}避免 null 或负数权重导致节点"消失"。这里兜底为 1，保证节点仍然能被选择。
(2) 退化逻辑
java
if (total <= 0) {
int i = ThreadLocalRandom.current().nextInt(instances.size());
return instances.get(i);
}如果所有节点权重都无效（total=0），退化为普通均匀随机，保证系统可用性。
(3) 权重区间选择
java
int r = ThreadLocalRandom.current().nextInt(total);
int acc = 0;
for (ModelInstance instance : instances) {
acc += safeWeight(instance.getWeight());
if (r < acc) return instance;
}逐步累加权重，找到随机数 r 落入的区间，选中对应实例。
5. 算法特点
✅ 优点：
- 简单直观，容易实现。
- 单次选择只需
O(n)，适合节点数量不多的场景。 - 内置"退化兜底"，健壮性高。
⚠️ 缺点：
- 每次选择都要遍历所有节点，节点数量特别多时效率下降。
- 无法保证短期的"平滑分布"（比如 A 的 5 次可能连续被选中），需要更高级的平滑加权轮询（SWRR）来改进。( 详情可见 负载均衡之平滑加权轮询（Smooth Weighted Round Robin）详解与实现 )
6. 应用场景
- AI 推理服务：不同 GPU 节点算力不同，权重与算力成比例。
- 微服务网关：后端服务节点性能不同，按机器性能分配流量。
- 缓存/数据库分片：主从节点处理能力不同，通过权重控制访问比例。
7. 总结
带权随机负载均衡是一个简单而实用 的策略，它能根据节点权重调整流量分布，避免"木桶短板效应"。在节点规模较小、权重变化不频繁的场景下，完全够用。如果需要更平滑的分布 ，可以考虑 平滑加权轮询（SWRR） 或 加权一致性哈希等更高级的算法。