redis-原理篇-Dict

介绍

Redis是一个键值型(Key-Value Pair)的数据库,我们可以根据键实现快速的增删改查。而键与值的映射关系正是通过Dict来实现的。

Dict由三部分组成,分别是:哈希表(DictHashTable)、哈希节点(DictEntry)、字典(Dict)

哈希表结构:

cpp 复制代码
typedef struct dictht {
    // entry数组
    //数组中保存的是指向entry的指针
    dictEntry **table;
    //哈希表大小
    unsigned long size;
    // 哈希表大小的掩码,总等于size - 1
    unsigned long sizemask;
    //entry个数
    unsigned long used;
} dictht;

哈希节点结构:

cpp 复制代码
typedef struct dictEntry {
    void *key; // 键
    union {
        void *val;
        uint64_t u64;
        int64_t s64;
        double d;
    } v; //值
    //下一个Entry的指针
    struct dictEntry *next;
} dictEntry;

当我们向Dict添加键值对时,Redis首先根据key计算出hash值(h),然后利用h & sizemask来计算元素应该存储到数组中的哪个索引位置。

字典结构:

cpp 复制代码
typedef struct dict {
    dictType *type;// dict类型,内置不同的hash函数
    void *privdata; //私有数据,在做特殊hash运算时用
    dictht ht[2];// 一个Dict包含两个哈希表,其中一个是当前数据,另一个一般是空,rehash时使用
    long rehashidx; // rehash的进度,-1表示未进行
    intl6_t pauserehash;// rehash是否暂停,1则暂停,0则继续
} dict;

整体结构:

扩容

Dict中的HashTable就是数组结合单向链表的实现,当集合中元素较多时,必然导致哈希冲突增多,链表过长,则查询效率会大大降低。

Dict在每次新增键值对时都会检查负载因子 (LoadFactor=used/size),满足以下两种情况时会触发哈希表扩容

  • 哈希表的 LoadFactor >=1,并且服务器没有执行BGSAVE 或者BGREWRITEAOF 等后台进程
  • 哈希表的 LoadFactor > 5

收缩

Dict除了扩容以外,每次删除元素时,也会对负载因子做检查,当LoadFactor<0.1 时,会做哈希表收缩

rehash

不管是扩容还是收缩,必定会创建新的哈希表,导致哈希表的size和sizemask变化,而key的查询与sizemask有关。因此必须对哈希表中的每一个key重新计算索引,插入新的哈希表,这个过程称为rehash 。过程是这样的:

①计算新hash表的realeSize,值取决于当前要做的是扩容还是收缩:

②按照新的realeSize申请内存空间,创建dictht,并赋值给dict.ht1

③设置dict.rehashidx= 0,标示开始rehash

④将dict.ht0中的每一个dictEntry都rehash到dict.ht1

⑤将dict.ht1赋值给dict.ht0给dict.ht1初始化为空哈希表,释放原来的dict.ht0的内存

渐进式rehash

Dict的rehash并不是一次性完成的。试想一下,如果Dict中包含数百万的entry,要在一次rehash完成,极有可能导致主线程阻塞。因此Dict的rehash是分多次、渐进式的完成,因此称为渐进式rehash。流程如下:

①计算新hash表的realeSize,值取决于当前要做的是扩容还是收缩:

②按照新的realeSize申请内存空间,创建dictht,并赋值给dict.ht1

③设置dict.rehashidx= 0,标示开始rehash

④每次执行新增、查询、修改、删除操作时,都检查一下dict.rehashidx是否大于-1,如果是则将dict.ht0.tablerehashidx的entry链表rehash到dict.ht1,并且将rehashidx++。直至dict.ht0的所有数据都rehash到dict.ht1

⑤将dict.ht1赋值给dict.ht0给dict.ht1初始化为空哈希表,释放原来的dict.ht0的内存

⑥将rehashidx赋值为-1,代表rehash结束

⑦在rehash过程中,新增操作,则直接写入ht1,查询、修改和删除则会在dict.ht0和dict.ht1依次查找并执行。这样可以确保ht0的数据只减不增,随着rehash最终为空

相关推荐
zt1985q22 分钟前
本地部署开源网络书签与内容管理工具 Karakeep 并实现外部访问
运维·服务器·网络·数据库·网络协议·开源
IvorySQL1 小时前
PostgreSQL 日报| PostgreSQL 19 默认 WAL 压缩算法(8 月 8 日)
数据库·postgresql·区块链
油丶酸萝卜别吃2 小时前
MySQL B+ 树查询全过程详解
数据库·mysql
leisoo80972 小时前
股票数据本地化存储实战:JSON、数据库与列式存储的方案对比
jvm·数据库·json
Exclusive_Cat2 小时前
MySQL回表机制解析与优化策略
数据库·sql
circuitsosk2 小时前
向量数据库选型与性能压测:Milvus、Pinecone、Chroma在真实业务下的对比
数据库·python·pinecone·milvus·向量数据库·chroma
影寂ldy2 小时前
SQL 索引(Index)完整笔记
数据库·笔记·sql
切糕师学AI2 小时前
从压缩到查询:PostgreSQL中JSON数据的存储与处理实践
数据库·postgresql·json
渣渣盟2 小时前
当 Redis 写入成为性能瓶颈时,如何利用 异步批量 Sink 将吞吐量从 1w QPS 提升到 10w+?
数据库·redis·php
SelectDB2 小时前
Apache Doris 2026 Roadmap:AI 成为主流负载后数据基础设施的演进方向
数据库