redis高级(存储能力问题)

存储能力问题

主从和哨兵可以解决高可用、高并发读的问题。但是存在两个问题:

  • 海量数据存储问题
  • 高并发写问题

使用分片集群可以解决上述问题:

  • 集群中有多个master,每个master保存不同数据
  • 每个master都可以有多个slave节点
  • master之间通过ping检测彼此健康状态
  • 客户端请求可以访问集群任意节点,最终都会被发到正确节点

散列插槽

redis会把每一个master节点映射到0~16383共16384个插槽(hash slot)上,查看集群信息时就能看到:

数据key不是与节点绑定,而是与插槽绑定。redis会根据key的有效部分计算插槽值,分两种情况:

  • key中包含{},且其中至少1个字符,{}中的部分是有效部分
  • key中不包含{},整个key都是有效部分

redis如何判断某个key应该在哪个实例:

  • 将16384个插槽分配到不同的实例
  • 根据key的有效部分计算哈希值,对16384取余
  • 余数作为插槽,寻找插槽所在实例

如何将同一类数据固定的保存在同一个redis实例:

  • 这一类数据使用相同的有效部分,例如key都以{typeid}为前缀

集群伸缩

查看帮助文档

故障转移

当集群中有一个master宕机会发生什么

  1. 首先是该实例失去连接
  2. 然后是疑似宕机
  3. 最后是确定下线,自动提成一个slave为新的master

手动故障转移:

利用cluster failover命令可以手动让集群中的某个master宕机,切换到执行cluster failover命令的这个slave节点,实现无感知的数据迁移,流程:

  1. slave节点告诉master节点拒绝任何客户端请求
  2. master返回当前的数据offset给slave
  3. 等待offset与master一致
  4. 开始故障转移
  5. 标记自己为master,广播故障转移的结果

手动的failover支持三种不同模式:

  • 缺省:默认流程,如上
  • force:省略对offset的一致性校验
  • takeover:直接执行第五步,忽略数据一致性、忽略master状态和其他master的意见

RedisTemplate访问分片集群

方式与哨兵基本一致:

  1. 引入redis的starter依赖
  2. 配置分片集群地址(所有)
  3. 配置读写分离
相关推荐
这个DBA有点耶41 分钟前
AI写的SQL跑崩了生产库,这锅谁背?
数据库·人工智能·程序员
镜舟科技1 小时前
Databricks 再提 LTAP,AI 时代的数据底座为何重回大一统叙事?
数据库·架构·agent
Databend2 小时前
从湖仓升级为 Agent 时代的数据控制面,Snowflake 和 Databricks 有哪些布局
大数据·数据库·agent
ClouGence5 小时前
SQL Server CDC 能放到 Always On 备库读吗?一文讲透原理与实践
数据库·sql server
先吃饱再说1 天前
存储的进化:从 MySQL 到浏览器缓存,数据到底住在哪?
数据库
Nturmoils1 天前
字段太多看不全,ksql 的展开模式和输出控制怎么用
数据库·后端
Databend1 天前
Agent 轨迹分析与归因的数据工程实践
大数据·数据库·agent
这个DBA有点耶1 天前
SQL改写进阶:标量子查询的“隐形代价”与消除实战
数据库·mysql·架构
smallyoung1 天前
数据库乐观锁深度解析:MySQL、PostgreSQL 实战 + Spring Boot 集成指南
数据库·mysql·postgresql
parade岁月1 天前
MySQL JOIN解析:朴实无华但食之有味
数据库·后端