Redis Cluster 使用 CRC16 算法实现 Slot 槽位分片的核心细节

一、CRC16 算法作用原理

哈希计算流程‌

对键值(Key)执行 ‌CRC16 算法‌,生成 16 位校验值(0~65535)

将校验值 ‌对 16384 取模‌(公式:slot = CRC16(key) % 16384),得到 0-16383 的槽位编号。

示例:若 CRC16("user:1001") 结果为 24567,则 24567 % 16384 = 8183,分配到槽位 8183。

键名特殊处理‌

当键名包含 {} 时(如 {order}123),‌仅对 {} 内的内容(即 "order")执行 CRC16 计算‌,忽略其他部分。

无 {} 的键(如 num)则直接对完整键名计算。

二、算法选择与特性

算法变种‌

Redis 使用的 CRC16 算法为 ‌CRC16-CCITT 变种‌,多项式为 0x1021(但官方未明确说明具体标准)。

该算法具有 ‌低碰撞率‌ 和 ‌高效计算‌ 特性,适合大规模数据分片场景。

与 16384 槽位的关系‌

槽位数选择‌:16384 是平衡内存占用与分布均匀性的折中值(节点间同步槽位映射信息时,16384 槽位仅需 2KB 内存)。

取模运算优化‌:16384 是 2^14,位运算优化可提升性能(例如 hash & (16384-1))。

三、数据分布与一致性

均匀分布机制‌

CRC16 的 ‌离散性‌ 确保不同键名大概率映射到不同槽位,实现数据均匀分布

每个节点管理固定范围的槽位(如 3 节点集群中,节点分配 0-5460、5461-10922、10923-16383)。

动态扩容影响‌

新增节点时,槽位重新分配会导致 ‌部分键的槽位计算结果变化‌,触发数据迁移。

迁移过程中,CRC16 算法仍按新槽位分布规则计算,确保最终一致性。

四、与其他分片算法的对比

算法类型‌ ‌典型实现‌ ‌Redis Cluster 选择 CRC16 的优势‌
哈希取余 hash(key) % N 槽位固定,扩容需全量数据迁移(Redis 通过槽位迁移避免)
一致性哈希 虚拟节点环 无需复杂环结构,通过槽位映射简化数据路由
哈希槽(CRC16)‌ 槽位分区 支持动态扩缩容、数据分布均匀、路由效率高

五、性能优化实践

强制键哈希一致性‌

对需跨键操作的数据(如事务、Lua 脚本),‌使用 {} 强制多键映射到同一槽位‌,例如 {user}1001:name 和 {user}1001:age。

避免热点槽位‌

键名设计时 ‌避免局部重复模式‌(如批量键名带相同前缀),防止 CRC16 计算结果集中到少数槽位。

以上细节综合了 CRC16 算法在 Redis 槽位分片中的核心逻辑,涵盖计算规则、分布式一致性及性能优化策略。

相关推荐
麻瓜code6 小时前
【Mysql】重新学一遍 SQL 执行顺序
数据库·sql
FakeOccupational7 小时前
【电路笔记 STM32】Cortex-M7 内核上的数据缓存(D-Cache)结构+MPU+DMA&Cache+STM32CubeMX配置
笔记·stm32·缓存
这个DBA有点耶7 小时前
数据库一体机架构演进:从硬件堆叠到软硬深度耦合
服务器·网络·数据库·硬件架构·运维开发·database·数据库架构
安_8 小时前
RAG的向量数据库:为LLM提供语义搜索能力
数据库
喜欢的名字被抢了9 小时前
程序出问题怎么查,以及如何让它不掉线
java·运维·数据库
这个DBA有点耶9 小时前
3000万个应用共享一套数据库:多租户“逻辑表”架构是如何做到的?
数据库·架构·dba
测试运维日常笔记9 小时前
Oracle 数据库连接认证方式详解
数据库·oracle
ClouGence10 小时前
PostgreSQL 同步到 Iceberg:开源、私有部署与 SaaS 方案对比
数据库·postgresql·开源
这个DBA有点耶10 小时前
DBA进阶之路:从“修数据库”到“管架构债”
数据库·架构·dba
ACP广源盛1392462567310 小时前
WAIC2026 国产超节点算力浪潮下@ACP#IX9104 在算力矩阵中的定位与落地场景
大数据·数据库·人工智能·嵌入式硬件·线性代数·矩阵