深入 Go 底层原理(十二):map 的实现与哈希冲突

1. 引言

map 是 Go 语言中使用频率极高的数据结构,它提供了快速的键值对存取能力。虽然 map 的使用非常简单,但其底层的实现却是一个精心设计的哈希表,它需要高效地处理哈希计算、数据存储、扩容以及最关键的------哈希冲突。

本文将解剖 map 的底层数据结构,详细阐述其查找、赋值和扩容过程,特别是它是如何解决哈希冲突的。

2. map 的核心数据结构

Go map 的运行时表示是 runtime.hmap 结构体,其关键字段如下:

Go 复制代码
// src/runtime/map.go
type hmap struct {
    count     int    // map 中元素的个数,即 len(m)
    flags     uint8
    B         uint8  // buckets 的对数,buckets 数量 = 2^B
    noverflow uint16 // 溢出桶的大致数量
    hash0     uint32 // 哈希种子

    buckets    unsafe.Pointer // 指向 bucket 数组的指针,大小为 2^B
    oldbuckets unsafe.Pointer // 在扩容时,指向旧的 bucket 数组
    nevacuate  uintptr        // 扩容进度计数器
    // ...
}

map 的核心是一个 bucket 数组 。每个 bucket 是一个 runtime.bmap 结构:

Go 复制代码
// 一个 bucket 最多可以存放 8 个键值对
const bucketCnt = 8

type bmap struct {
    tophash [bucketCnt]uint8 // 存储每个 key 哈希值的高 8 位
    // keys and values follow
}
  • B : 决定了 map 有多少个 bucket,总数是 2B。

  • buckets: 是一个指针,指向一个连续的 bucket 数组。

  • bmap (bucket):

    • tophash : 这是一个巧妙的优化。它存储了每个 key 的哈希值的高 8 位 (top hash) 。在查找 key 时,可以先快速比较这 8 位,如果 tophash 都不匹配,就无需再比较完整的 key,从而加速查找。

    • 键和值 : bmap 结构体之后,紧跟着存储了 8 个 key 和 8 个 value。它们在内存上是连续的。

  • 溢出桶 (Overflow Bucket) : 如果一个 bucket 的 8 个槽位都满了,map 会通过一个指针将这个 bucket 与一个溢出桶链接起来,形成一个链表。

3. map 的工作流程
a) 写入/赋值 (map[key] = value)
  1. 哈希计算 : 使用哈希函数计算 key 的哈希值 hash

  2. 定位 Bucket : 使用 hash低 B 位 来决定这个 key 应该落在哪个 bucket 中。例如,bucketIndex = hash & (2^B - 1)

  3. 定位槽位:

    • 计算 hash高 8 位 tophash

    • 遍历目标 bucket 的 tophash 数组,看是否存在相同的 tophash

    • 如果 tophash 相同,再完整地比较 key 是否相同。

    • 如果 key 已存在,则更新对应的 value

    • 如果 key 不存在,就在 bucket 中找一个空槽位,存入 tophash, keyvalue

  4. 处理冲突与溢出 : 如果当前 bucket 的 8 个槽位都满了,map 会创建一个新的溢出桶,并让当前 bucket 指向它。新的键值对将被存入这个溢出桶。

b) 查找 (value, ok := map[key])

查找过程与写入类似。通过哈希值定位到 bucket,然后先比较 tophash,再比较完整的 key。会依次遍历 bucket 和其所有链接的溢出桶,直到找到 key 或者遍历完所有溢出桶。

c) 扩容 (Grow)

当以下任一条件满足时,map 会触发扩容:

  1. 负载因子超限 : map 中元素的数量 count / bucket 数量 2^B > 6.5。

  2. 溢出桶过多 : map 的溢出桶数量过多时(当 B < 15 时,noverflow >= 2^B),也会触发扩容,这主要是为了解决因大量删除操作导致的内存空洞问题。

扩容方式:

  • 等量扩容 : 如果是因溢出桶过多触发,map 会创建一个与原 bucket 数组大小相同的新数组,然后将数据重新排列(rehash),目的是消除内存碎片。

  • 翻倍扩容 : 如果是因负载因子超限触发,map 会创建一个两倍大 的 bucket 数组(B 会加 1)。

渐进式扩容 (Incremental Evacuation) : 为了避免因扩容导致长时间的 STW,Go map 的扩容是渐进式的。

  • 扩容时, map 不会一次性将所有数据从 oldbuckets 搬到 buckets

  • 而是每当对 map 进行一次写入或删除操作时,会顺便"搬运"一到两个 bucket 的数据。

  • 查询操作可能会同时在 oldbucketsbuckets 中进行。

  • 整个搬运过程会分散到多次操作中,直到 oldbuckets 中的数据全部迁移完毕。

相关推荐
sali-tec41 分钟前
C# 基于halcon的视觉工作流-章52-生成标定板
开发语言·图像处理·人工智能·算法·计算机视觉
IT古董42 分钟前
【第五章:计算机视觉-项目实战之推荐/广告系统】2.粗排算法-(4)粗排算法模型多目标算法(Multi Task Learning)及目标融合
人工智能·算法·1024程序员节
熬了夜的程序员43 分钟前
【LeetCode】89. 格雷编码
算法·leetcode·链表·职场和发展·矩阵
對玛祷至昏1 小时前
数据结构理论知识
数据结构·算法·排序算法
oliveira-time1 小时前
二分搜索(Binary Search)
算法
王哈哈^_^2 小时前
【数据集】【YOLO】【目标检测】口罩数据集,口罩佩戴识别数据集 1971 张,YOLO佩戴口罩检测算法实战训练教程。
人工智能·算法·yolo·目标检测·计算机视觉·ai·视觉检测
dragoooon343 小时前
[优选算法专题四.前缀和——NO.31~32 连续数组、矩阵区域和]
数据结构·算法·leetcode·1024程序员节
py有趣3 小时前
LeetCode算法学习之移除元素
java·数据结构·算法
一念&4 小时前
每日一个C语言知识:C 预处理器
c语言·算法
油泼辣子多加4 小时前
【实战】自然语言处理--长文本分类(2)BERTSplitLSTM算法
算法·自然语言处理·分类