负载均衡源码解读之加权负载均衡算法

NX2024-03-10 14:57

本文转自本人博客：nickxu.me/post/kitex-...

不多废话，直入正题

Kitex 的负载均衡相关源码位于 pkg/loadbalance ，具体结构如下

go 复制代码 
nx@NXsMacBook-Pro kitex % tree pkg/loadbalance
pkg/loadbalance
├── consist.go
├── consist_test.go
├── dummy_picker.go
├── interleaved_weighted_round_robin.go
├── iterator.go
├── lbcache
│   ├── cache.go
│   ├── cache_test.go
│   ├── hookable.go
│   ├── hookable_test.go
│   └── shared_ticker.go
├── loadbalancer.go
├── weighted_balancer.go
├── weighted_balancer_test.go
├── weighted_random.go
├── weighted_random_with_alias_method.go
├── weighted_round_robin.go
└── weighted_round_robin_test.go

2 directories, 17 files

我们先去 loadbalancer.go 看见接口定义，感觉还是很清晰的

go 复制代码 
// Picker picks an instance for next RPC call.
type Picker interface {
    Next(ctx context.Context, request interface{}) discovery.Instance
}

// Loadbalancer generates pickers for the given service discovery result.
type Loadbalancer interface {
    GetPicker(discovery.Result) Picker
    Name() string // unique key
}

// Rebalancer is a kind of Loadbalancer that performs rebalancing when the result of service discovery changes.
type Rebalancer interface {
    Rebalance(discovery.Change)
    Delete(discovery.Change)
}

首先 discovery.Instance 就是要负载均衡的基本对象

go 复制代码 
// Instance contains information of an instance from the target service.
type Instance interface {
    Address() net.Addr
    Weight() int
    Tag(key string) (value string, exist bool)
}

而 discovery.Result 是一组对象的集合

go 复制代码 
// Result contains the result of service discovery process.
// Cacheable tells whether the instance list can/should be cached.
// When Cacheable is true, CacheKey can be used to map the instance list in cache.
type Result struct {
    Cacheable bool
    CacheKey  string
    Instances []Instance
}

如果你查看 Loadbalancer 的实现，你会找到下面两个实现：

  • consistBalancer ：基于一致性哈希
  • weightedBalancer ：基于加权算法

为什么要区分这两个呢？我认为这两者适用的场景不同：

  • 一致性哈希较为复杂，但是能保证会话粘性，也就是相同键的请求总是路由到相同的服务实例
  • 加权算法比较简单，但不能保证会话粘性

本文将分析加权负载均衡器所提供的几种算法

在 weighted_balancer.go 中，我们能找到如下定义

go 复制代码 
const (
    lbKindRoundRobin = iota      // 轮询 (Round Robin)
    lbKindInterleaved            // 交错轮询 (Interleaved)
    lbKindRandom                 // 随机 (Random)
    lbKindRandomWithAliasMethod  // 别名方法 (Alias Method)
)

这里的轮询包含了一般轮询和加权轮询，随机也包含了一般随机和加权随机，所以一共是 6 种算法

轮询 (Round Robin，RR)

预期效果

最简单的负载均衡方式，让流量依次访问各个实例，例如有 3 个实例 abc

那么轮询的访问顺序就 a-b-c-a-b-c-a-b-c... 如此往复

实现

首先来看一般轮询的结构定义

下面的源码来源于 weighted_round_robin.go 和 iterator.go 两个文件，我把它们拼到了一起

go 复制代码 
// RoundRobinPicker .
type RoundRobinPicker struct {
    size      uint64
    instances []discovery.Instance
    iterator  *round
}

// round implement a strict Round Robin algorithm
type round struct {
    state uint64    // 8 bytes
    _     [7]uint64 // + 7 * 8 bytes
    // = 64 bytes
}

你可以看见迭代器 iterator 实际上就是一个数字，但是为了凑成 64 byte 而封装成了结构体，这应该是为了缓存行对齐或者是内存对齐

它的运行过程是这样的

初始化

首先构造 RoundRobinPicker ，并且在迭代器中设置一个随机数

go 复制代码 
func newRoundRobinPicker(instances []discovery.Instance) Picker {
    size := uint64(len(instances))
    return &RoundRobinPicker{
        size:      size,
        instances: instances,
        iterator:  newRandomRound(),
    }
}

func newRandomRound() *round {
    r := &round{
        state: fastrand.Uint64(),
    }
    return r
}

选择实例

然后每次调用 Picker 的 Next 时，都会先调用迭代器的 Next ，把随机数原子加一

go 复制代码 
func (r *round) Next() uint64 {
    return atomic.AddUint64(&r.state, 1)
}

然后，在把这个数对 size 取模，返回对应编号的实例

go 复制代码 
func (rp *RoundRobinPicker) Next(ctx context.Context, request interface{}) (ins discovery.Instance) {
    if rp.size == 0 {
        return nil
    }
    idx := rp.iterator.Next() % rp.size
    ins = rp.instances[idx]
    return ins
}

如此往复，便能得到预期的效果

加权轮询（Weighted Round Robin｜WRR）

预期效果

加权轮询就是每个实例都有权重，例如 abc 的权重分别是 { 5, 1, 1 }

可以构造出序列 { c, b, a, a, a, a, a } 实现按比例分配流量，但是这会让 a 被短暂持续访问

于是就有了平滑加权轮询，将 a 分散分布，而不是堆在一起

如注释所说，Kitex 使用的是平滑加权轮询

实现

先看结构定义

go 复制代码 
// WeightedRoundRobinPicker implement smooth weighted round-robin algorithm.
// Refer from https://github.com/phusion/nginx/commit/27e94984486058d73157038f7950a0a36ecc6e35
type WeightedRoundRobinPicker struct {
    nodes []*wrrNode // instance node with current weight
    size  uint64     // size of wrrNodes

    iterator  *round
    vsize     uint64               // size of valid vnodes
    vcapacity uint64               // capacity of all vnodes
    vnodes    []discovery.Instance // precalculated vnodes which order by swrr algorithm
    vlock     sync.RWMutex         // mutex for vnodes
}

type wrrNode struct {
    discovery.Instance
    current int
}
  • wrrNode ：代表一个服务实例及其当前权重状态。current字段用于在算法中暂存当前权重的动态值
  • WeightedRoundRobinPicker ：包含了所有服务实例节点（nodes）、有效虚拟节点数（vsize）、虚拟节点容量（vcapacity），以及预计算的虚拟节点数组（vnodes）

初始化

首先将输入的 instances 以乱序存入 nodes ，同时求出最大公约数得到需要的虚拟节点个数

例如权重 { 10, 20, 30} ，最大公约数是 10，然后用总和 60/10 得到至少需要 6 个虚拟节点

最后再调用 buildVirtualWrrNodes 方法在 vnodes 中构建虚拟节点

go 复制代码 
func newWeightedRoundRobinPicker(instances []discovery.Instance) Picker {
    wrrp := new(WeightedRoundRobinPicker)
    wrrp.iterator = newRound()

    // 乱序存入 nodes，同时计算 gcd
    wrrp.size = uint64(len(instances))
    wrrp.nodes = make([]*wrrNode, wrrp.size)
    offset := fastrand.Uint64n(wrrp.size)
    totalWeight := 0
    gcd := 0
    for idx := uint64(0); idx < wrrp.size; idx++ {
        ins := instances[(idx+offset)%wrrp.size]
        totalWeight += ins.Weight()
        gcd = gcdInt(gcd, ins.Weight())
        wrrp.nodes[idx] = &wrrNode{
            Instance: ins,
            current:  0,
        }
    }

    wrrp.vcapacity = uint64(totalWeight / gcd) // 计算需要的虚拟节点数量
    wrrp.vnodes = make([]discovery.Instance, wrrp.vcapacity)
    wrrp.buildVirtualWrrNodes(wrrVNodesBatchSize)
    return wrrp
}

const wrrVNodesBatchSize = 500 // it will calculate wrrVNodesBatchSize vnodes when insufficient

那么具体来说 buildVirtualWrrNodes 是怎么处理的呢？

他并不会一次构建出全部的虚拟节点（将构建任务分散，轮询时逐步构建），而是先确定一个构建目标（每次向前构建 wrrVNodesBatchSize 个）

然后从当前已有的位置开始，逐个构建到目标位置

go 复制代码 
func (wp *WeightedRoundRobinPicker) buildVirtualWrrNodes(vtarget uint64) {
    // 确保目标虚拟节点数量不超过容量上限
    if vtarget > wp.vcapacity {
        vtarget = wp.vcapacity
    }
    // 从当前有效的虚拟节点数量开始，构建至目标数量的虚拟节点
    for i := wp.vsize; i < vtarget; i++ {
        // 使用 nextWrrNode 选择下一个节点，并将其实例赋值给虚拟节点数组
        wp.vnodes[i] = nextWrrNode(wp.nodes).Instance
    }
    // 更新当前有效的虚拟节点数量
    wp.vsize = vtarget
}

而构建每个虚拟节点时都会调用一次 nextWrrNode ，它的工作流程如下：

  1. 增加当前权重 ：对于节点列表（nodes）中的每个节点，函数首先将节点的静态权重（node.Weight()）加到它的当前权重（node.current）上

    这个步骤是在每次选择过程中为所有节点平等地增加权重，确保长期内权重较高的节点能获得更多的选择机会

  2. 选择最大当前权重的节点 ：在所有节点的当前权重被更新后，函数遍历节点列表，选择当前权重（current）最高的节点作为本次选择的节点

    这确保了每次都倾向于选择当前权重相对较高的节点，从而反映了节点的权重比例

  3. 减去总权重：在选择了当前权重最高的节点后，函数会从该节点的当前权重中减去所有节点的静态权重之和

    这一步骤是关键，它使得被选中的节点在下一轮选择中的优势减少，防止它连续被过度选择，从而给其他节点以被选择的机会，实现平滑的效果

go 复制代码 
func nextWrrNode(nodes []*wrrNode) (selected *wrrNode) {
    // 初始化用于比较的当前最大权重
    maxCurrent := 0
    // 总权重，用于后续平滑权重调整
    totalWeight := 0
    // 遍历所有节点，增加它们的当前权重，并找到当前权重最大的节点
    for _, node := range nodes {
        node.current += node.Weight()
        totalWeight += node.Weight()
        if selected == nil || node.current > maxCurrent {
            selected = node
            maxCurrent = node.current
        }
    }
    // 如果没有选中的节点（理论上不应该发生），则返回 nil
    if selected == nil {
        return nil
    }
    // 从选中节点的当前权重中减去总权重，为下一次选择做平滑调整
    selected.current -= totalWeight
    return selected
}

构建完成后的虚拟列表，3 个 30 权重的，2 个 20 权重的，1 个 10 权重的，同时很平滑

选择实例

现在 Next 方法就比较好理解了，和轮询一样依次遍历虚拟节点，无非就是两种情况：

  1. 需要节点已经构建，直接返回
  2. 需要的节点还没构建，这时需要调用构建函数往前推进一些

但是由于并发的存在，需要有一些锁的处理

go 复制代码 
// Next implements the Picker interface.
func (wp *WeightedRoundRobinPicker) Next(ctx context.Context, request interface{}) (ins discovery.Instance) {
    // 使用迭代器获取下一个索引值，用于选择虚拟节点。迭代器确保每次调用都前进一步。
    idx := wp.iterator.Next() % wp.vcapacity

    // 快速路径：尝试从预计算的虚拟节点数组中获取实例。
    // 这里使用读锁来支持并发访问，提高性能。
    wp.vlock.RLock()
    ins = wp.vnodes[idx]
    wp.vlock.RUnlock()
    // 如果找到了实例，则直接返回，这表示该虚拟节点已经被预先计算并分配了实例。
    if ins != nil {
        return ins
    }

    // 慢速路径：如果虚拟节点数组中的对应位置没有实例（可能是因为虚拟节点尚未被构建）。
    wp.vlock.Lock() // 上写锁以修改虚拟节点数组
    defer wp.vlock.Unlock() // 确保锁会被释放
    // 再次检查，以防其他协程已经填充了该位置的虚拟节点
    if wp.vnodes[idx] != nil {
        return wp.vnodes[idx] // 如果其他协程已经处理，直接返回实例
    }

    // 计算需要构建的虚拟节点目标数量，确保包含当前索引
    vtarget := wp.vsize + wrrVNodesBatchSize
    // 如果目标索引超过了计划构建的虚拟节点数量，调整目标以包含当前索引
    if idx >= vtarget {
        vtarget = idx + 1
    }
    // 构建足够数量的虚拟节点，以满足当前请求
    wp.buildVirtualWrrNodes(vtarget)
    // 返回当前索引位置的实例
    return wp.vnodes[idx]
}

为什么要检查一下需求位置是否超过了计划构建的位置呢？每次都已经计划往后构建 500 个了呀

我猜测是在高并发环境下，可能同时有超过 500 个获取请求，这时需求位置就超过了计划位置，需要构建超过 500 个

这也是前面要再次检查协程是否已经填充了需求位置的虚拟节点的原因

交错加权轮询（Interleaved Weighted Round Robin｜IWRR）

预期效果

也是加权轮询，但是 WRR 的空间复杂度是 <math xmlns="http://www.w3.org/1998/Math/MathML"> O ( ∑ i n s t a n c e . w e i g h t g c d ( i n s t a n c e . w e i g h t ) ) O(\dfrac{\sum {instance.weight}}{gcd(instance.weight)}) </math>O(gcd(instance.weight)∑instance.weight)，IWRR 的空间复杂度是 <math xmlns="http://www.w3.org/1998/Math/MathML"> O ( l e n ( i n s t a n c e ) ) O(len(instance)) </math>O(len(instance))​

虽然时间复杂度有所提高，但是在实例权重非常大的情况下很节省空间

不过这种情况感觉也不是很多，所以默认算法还是 WRR

实现

你已经看见了，Kitex 使用的 IWRR 的只有两个队列：当前队列和下一次队列

这并不是标准的 IWRR，它放弃了平滑特性，理由是在大流量下平滑特性并有没什么作用，一个循环会在很短的时间内完成

go 复制代码 
type iwrrNode struct {
    discovery.Instance
    remainder int

    next *iwrrNode
}

type iwrrQueue struct {
    head *iwrrNode
    tail *iwrrNode
}

type InterleavedWeightedRoundRobinPicker struct {
    current *iwrrQueue
    next    *iwrrQueue
    gcd     int

    lock sync.Mutex
}

func newIwrrQueue() *iwrrQueue { return &iwrrQueue{}}
func (q *iwrrQueue) enqueue(node *iwrrNode) { /***/ }
func (q *iwrrQueue) dequeue() *iwrrNode { /***/ }
func (q *iwrrQueue) empty() bool { /***/ }
  • iwrrNode : 表示单个服务实例及其剩余权重。每个节点包括实例信息、剩余权重（remainder），和指向下一个节点的指针（next）
  • iwrrQueue : 管理iwrrNode节点的队列，支持入队（enqueue）和出队（dequeue）操作。队列维护了头节点（head）和尾节点（tail）的引用，以支持高效的操作
  • InterleavedWeightedRoundRobinPicker : 实现了交错加权轮询算法的选择器。它维护两个队列（current和next），以及所有实例权重的最大公约数（gcd）

初始化

将实例乱序放入当前队列中，并将 remainder 初始化为实例权重，同时计算 gcd

go 复制代码 
func newInterleavedWeightedRoundRobinPicker(instances []discovery.Instance) Picker {
    iwrrp := new(InterleavedWeightedRoundRobinPicker)
    iwrrp.current = newIwrrQueue()
    iwrrp.next = newIwrrQueue()

    size := uint64(len(instances))
    offset := fastrand.Uint64n(size)
    gcd := 0
    for idx := uint64(0); idx < size; idx++ {
        ins := instances[(idx+offset)%size]
        gcd = gcdInt(gcd, ins.Weight())

        iwrrp.current.enqueue(&iwrrNode{
            Instance:  ins,
            remainder: ins.Weight(),
        })
    }

    iwrrp.gcd = gcd

    return iwrrp
}

选择实例

  1. 每次被选中后都会减少 remainder （使用 gcd 来缩短周期）

    当 remainder为 0 时表示当前周期内不可调度，将其放到下一次队列中

  2. 当当前队列为空时表示当前周期所有元素都被按权重选择过了，此时对换当前队列和下一次队列开始新一轮周期

go 复制代码 
func (ip *InterleavedWeightedRoundRobinPicker) Next(ctx context.Context, request interface{}) discovery.Instance {
    ip.lock.Lock()
    defer ip.lock.Unlock()

    if ip.current.empty() {
       ip.current, ip.next = ip.next, ip.current
    }

    node := ip.current.dequeue()
    node.remainder -= ip.gcd

    if node.remainder > 0 {
       ip.current.enqueue(node)
    } else {
       node.remainder = node.Instance.Weight()
       ip.next.enqueue(node)
    }

    return node.Instance
}

由于始终复用节点，所以初始化后无需申请新的空间

随机（Random）

预期效果

非常朴素的随机分配

实现

go 复制代码 
type randomPicker struct {
    instances []discovery.Instance
}

初始化

go 复制代码 
func newRandomPicker(instances []discovery.Instance) Picker {
    return &randomPicker{
       instances: instances,
    }
}

选择实例

go 复制代码 
// Next implements the Picker interface.
func (rp *randomPicker) Next(ctx context.Context, request interface{}) (ins discovery.Instance) {
    idx := fastrand.Intn(len(rp.instances))
    return rp.instances[idx]
}

加权随机（Weighted Random）

预期效果

基于随机实现的加权负载均衡，唯一的好处就是没有空间占用，缺点是时间复杂度很高

实现

go 复制代码 
type weightedRandomPicker struct {
    instances []discovery.Instance
    weightSum int
}

初始化

go 复制代码 
func newWeightedRandomPickerWithSum(instances []discovery.Instance, weightSum int) Picker {
    return &weightedRandomPicker{
       instances: instances,
       weightSum: weightSum,
    }
}

选择实例

go 复制代码 
// Next implements the Picker interface.
func (wp *weightedRandomPicker) Next(ctx context.Context, request interface{}) (ins discovery.Instance) {
    weight := fastrand.Intn(wp.weightSum)
    for i := 0; i < len(wp.instances); i++ {
       weight -= wp.instances[i].Weight()
       if weight < 0 {
          return wp.instances[i]
       }
    }
    return nil
}

别名方法（Alias Method）

如你所见，这个算法是我贡献的哈哈哈😋

预期效果

在选取阶段可以做到常数极低的 O(1) 的时间复杂度

实现

这个算法的实现其实既简单又复杂，简单在只需依托输入构建一个别名表，每次查表就完了

go 复制代码 
type AliasMethodPicker struct {
    instances []discovery.Instance
    weightSum int
    alias     []int
    prob      []float64
}

初始化

别名表的构建过程有点复杂，具体可以看我博客 飞镖、骰子和硬币：从离散分布中抽样

go 复制代码 
func newAliasMethodPicker(instances []discovery.Instance, weightSum int) Picker {
    picker := &AliasMethodPicker{
       instances: instances,
       weightSum: weightSum,
    }
    picker.init()
    return picker
}

// Alias Method need to init before use and after update instances
func (a *AliasMethodPicker) init() {
    n := len(a.instances)
    a.alias = make([]int, n)
    a.prob = make([]float64, n)

    totalWeight := a.weightSum

    scaledProb := make([]float64, n)
    small := make([]int, 0, n)
    large := make([]int, 0, n)

    for i, instance := range a.instances {
       scaledProb[i] = float64(instance.Weight()) * float64(n) / float64(totalWeight)
       if scaledProb[i] < 1.0 {
          small = append(small, i)
       } else {
          large = append(large, i)
       }
    }

    for len(small) > 0 && len(large) > 0 {
       l := small[len(small)-1]
       small = small[:len(small)-1]
       g := large[len(large)-1]
       large = large[:len(large)-1]

       a.prob[l] = scaledProb[l]
       a.alias[l] = g

       scaledProb[g] -= 1.0 - scaledProb[l]
       if scaledProb[g] < 1.0 {
          small = append(small, g)
       } else {
          large = append(large, g)
       }
    }

    for len(large) > 0 {
       g := large[len(large)-1]
       large = large[:len(large)-1]
       a.prob[g] = 1.0
    }

    for len(small) > 0 {
       l := small[len(small)-1]
       small = small[:len(small)-1]
       a.prob[l] = 1.0
    }
}

选择实例

这个就非常简单了，取随机数然后查表就行

go 复制代码 
// Next implements the Picker interface.
func (a *AliasMethodPicker) Next(ctx context.Context, request interface{}) discovery.Instance {
    i := fastrand.Intn(len(a.instances))
    if fastrand.Float64() < a.prob[i] {
        return a.instances[i]
    }
    return a.instances[a.alias[i]]
}

总结

初始化阶段的 Benchmark

bash 复制代码 
/Users/nx/Library/Caches/JetBrains/GoLand2023.3/tmp/GoLand/___github_com_cloudwego_kitex_pkg_loadbalance__BenchmarkGetPicker.test -test.v -test.paniconexit0 -test.bench ^\QBenchmarkGetPicker\E$ -test.run ^$
goos: darwin
goarch: arm64
pkg: github.com/cloudwego/kitex/pkg/loadbalance
BenchmarkGetPicker
BenchmarkGetPicker/weight_round_robin
BenchmarkGetPicker/weight_round_robin-8               222835          5348 ns/op       16496 B/op           3 allocs/op
BenchmarkGetPicker/weight_random
BenchmarkGetPicker/weight_random-8                    233304          5194 ns/op       16408 B/op           2 allocs/op
BenchmarkGetPicker/weight_random_with_alias_method
BenchmarkGetPicker/weight_random_with_alias_method-8               232458          5375 ns/op       16408 B/op           2 allocs/op
BenchmarkGetPicker/interleaved_weighted_round_robin
BenchmarkGetPicker/interleaved_weighted_round_robin-8              223707          5308 ns/op       16496 B/op           3 allocs/op
PASS

进程 已完成，退出代码为 0

选择实例阶段的 Benchmark

bash 复制代码 
/Users/nx/Library/Caches/JetBrains/GoLand2023.3/tmp/GoLand/___github_com_cloudwego_kitex_pkg_loadbalance__BenchmarkWeightedPicker_Next.test -test.v -test.paniconexit0 -test.bench ^\QBenchmarkWeightedPicker_Next\E$ -test.run ^$
goos: darwin
goarch: arm64
pkg: github.com/cloudwego/kitex/pkg/loadbalance
BenchmarkWeightedPicker_Next
BenchmarkWeightedPicker_Next/weight_round_robin
BenchmarkWeightedPicker_Next/weight_round_robin/10ins
BenchmarkWeightedPicker_Next/weight_round_robin/10ins-8       81600734            14.25 ns/op
BenchmarkWeightedPicker_Next/weight_round_robin/100ins
BenchmarkWeightedPicker_Next/weight_round_robin/100ins-8      85023469            14.17 ns/op
BenchmarkWeightedPicker_Next/weight_round_robin/1000ins
BenchmarkWeightedPicker_Next/weight_round_robin/1000ins-8     85418442            14.10 ns/op
BenchmarkWeightedPicker_Next/weight_round_robin/10000ins
BenchmarkWeightedPicker_Next/weight_round_robin/10000ins-8                35655         33368 ns/op
BenchmarkWeightedPicker_Next/weight_random
BenchmarkWeightedPicker_Next/weight_random/10ins
BenchmarkWeightedPicker_Next/weight_random/10ins-8                     47241925            25.41 ns/op
BenchmarkWeightedPicker_Next/weight_random/100ins
BenchmarkWeightedPicker_Next/weight_random/100ins-8                     9708295           123.2 ns/op
BenchmarkWeightedPicker_Next/weight_random/1000ins
BenchmarkWeightedPicker_Next/weight_random/1000ins-8                    1000000          1055 ns/op
BenchmarkWeightedPicker_Next/weight_random/10000ins
BenchmarkWeightedPicker_Next/weight_random/10000ins-8                    110542         10613 ns/op
BenchmarkWeightedPicker_Next/weight_random_with_alias_method
BenchmarkWeightedPicker_Next/weight_random_with_alias_method/10ins
BenchmarkWeightedPicker_Next/weight_random_with_alias_method/10ins-8             90827661            12.36 ns/op
BenchmarkWeightedPicker_Next/weight_random_with_alias_method/100ins
BenchmarkWeightedPicker_Next/weight_random_with_alias_method/100ins-8            95986561            12.52 ns/op
BenchmarkWeightedPicker_Next/weight_random_with_alias_method/1000ins
BenchmarkWeightedPicker_Next/weight_random_with_alias_method/1000ins-8           96050268            12.55 ns/op
BenchmarkWeightedPicker_Next/weight_random_with_alias_method/10000ins
BenchmarkWeightedPicker_Next/weight_random_with_alias_method/10000ins-8          95397718            12.64 ns/op
BenchmarkWeightedPicker_Next/interleaved_weighted_round_robin
BenchmarkWeightedPicker_Next/interleaved_weighted_round_robin/10ins
BenchmarkWeightedPicker_Next/interleaved_weighted_round_robin/10ins-8            87128834            14.76 ns/op
BenchmarkWeightedPicker_Next/interleaved_weighted_round_robin/100ins
BenchmarkWeightedPicker_Next/interleaved_weighted_round_robin/100ins-8           81406752            13.98 ns/op
BenchmarkWeightedPicker_Next/interleaved_weighted_round_robin/1000ins
BenchmarkWeightedPicker_Next/interleaved_weighted_round_robin/1000ins-8          85486323            14.07 ns/op
BenchmarkWeightedPicker_Next/interleaved_weighted_round_robin/10000ins
BenchmarkWeightedPicker_Next/interleaved_weighted_round_robin/10000ins-8         86139339            14.06 ns/op
PASS

进程 已完成，退出代码为 0

看上去还是我写的 Alias Method 最好哈哈哈

当时导师让我把默认算法改成 Alias Method，我没改，现在有点后悔了 XD

PS：Alias Method 在 Go1.22 版本下会有巨大的性能倒退（我控制变量了一晚上才发现是 Go 版本的问题），究其原因是它所依赖的 fastrand，而 fastrand 直接依赖于 runtime.fastrand ，具体原因请看我的 PR：bytedance/gopkg#206

相关推荐
啦啦右一22 分钟前
Spring Boot | （一）Spring开发环境构建
spring boot·后端·spring
森屿Serien24 分钟前
Spring Boot常用注解
java·spring boot·后端
盛派网络小助手2 小时前
微信 SDK 更新 Sample，NCF 文档和模板更新，更多更新日志，欢迎解锁
开发语言·人工智能·后端·架构·c#
∝请叫*我简单先生2 小时前
java如何使用poi-tl在word模板里渲染多张图片
java·后端·poi-tl
xiaoshiguang33 小时前
LeetCode：222.完全二叉树节点的数量
算法·leetcode
zquwei4 小时前
SpringCloudGateway+Nacos注册与转发Netty+WebSocket
java·网络·分布式·后端·websocket·网络协议·spring
爱吃西瓜的小菜鸡4 小时前
【C语言】判断回文
c语言·学习·算法
别NULL4 小时前
机试题——疯长的草
数据结构·c++·算法
TT哇4 小时前
*【每日一题 提高题】[蓝桥杯 2022 国 A] 选素数
java·算法·蓝桥杯
dessler4 小时前
Docker-run命令详细讲解
linux·运维·后端·docker
热门推荐
01Cube-Studio：开源大模型全链路一站式中台02ARM学习（31）编译器对overlay方式的支持03玄机平台应急响应—webshell查杀04Ubuntu 20.04使用Livox mid 360 测试 FAST_LIO05校验 GPT-4 真实性的三个经典问题：快速区分 GPT-3.5 与 GPT-4，并提供免费测试网站06Docker 夺命连环 15 问07构建高效的广告投放系统：应用架构的设计与实现08基于大语言模型（LLM）的合成数据生成、策展和评估的综述09(欧拉)openEuler系统添加网卡文件配置流程、(欧拉)openEuler系统手动配置ipv6地址流程、(欧拉)openEuler系统网络管理说明10【一文读懂】NTN（非地面网络）技术介绍