Canal 缓存

常用的Mysql与Redis缓存方案:延迟双删

业务代码

  1. 读:读取缓存,命中直接返回;不命中,读取数据库,读取到回写缓存

  2. 写:删除缓存,写数据库,延迟删除缓存

延迟双删的核心问题:

问题 严重程度 影响
延迟时间难以确定 🔴 高 仍可能产生脏数据
第二次删除失败无感知 🔴 高 缓存不一致
进程重启丢失 🟠 中 缓存残留脏数据
资源开销 🟡 低 性能下降(耦合:在业务逻辑中增加该逻辑,加剧RPC接口耗时)
与事务不兼容 🟠 中 业务逻辑复杂

解决方案:高一致性要求、解耦:使用Canal订阅Binlog更新缓存

Canal订阅Binlog的主要坑:

问题类型 严重程度 解决
顺序问题 1. Canal接入的kafka如果是多分区,同一个ID会路由到不同的分区,消费者处理顺序会乱 2. 即使是单分区单消费者,如果消费者程序开启了go并发处理,也可能会乱序 🔴 高 性能高 + 不乱序 1. 性能高:kafka还是使用消费者组的多分区,但是生产者按照hash(id)选择分区,确保相同的id永远路由到一个分区(一个分区在同一个时刻只能被一个消费者处理,就能保证一个id只能被一个消费者处理) 2. 不乱序:消费者不开启go并发处理
Canal故障 1. Canal单点故障 2. Canal重启期间的Binlog丢失或延迟消费 3. 缓存中的脏数据可能长期存在 🟡 低
DDL变更 DDL变更需要重启Canal或重新配置 字段类型变更可能导致解析错误 重命名表/字段需要修改Canal配置 🟡 低 低(运维规范)

| 业务逻辑 | 细节 |
| 写 | 创建、更新、删除:都是只操作mysql,不操作缓存(不删除Redis、也不更新Redis) |
| 读 | Redis ==> Mysql ==> 更新Redis(和市面上老的流程一样) 为什么读流程还要保留更新缓存逻辑?是为了防止Canal挂了,那么Redis就永远没有最新的缓存数据了!因此,还要保留该逻辑,相当于给Canal挂了做了一个兜底。 查询Redis成功 1. 查询到:直接返回 2. 查询不到:降级查询Mysql,然后更新Redis |

Canal 删除:直接删除 创建、更新:更新Redis

上面【更新Redis】的操作,是升级的版本,因为Canal和读流程中都会更新Redis,这里要处理并发问题!

缓存数据结构

Go 复制代码
// 缓存数据结构
type CachedData struct {
    Data         interface{}   `json:"data"`          // 实际业务数据
    UpdatedAt    time.Time     `json:"updated_at"`    // 数据更新时间
    BinlogFile   string        `json:"binlog_file"`   // Binlog文件名
    BinlogPos    int64         `json:"binlog_pos"`    // Binlog位置
    CachedAt     time.Time     `json:"cached_at"`     // 缓存写入时间
    Source       string        `json:"source"`        // 数据来源: "canal" or "read"
}

| 优先级类型 | 具体类型 | 【更新Redis】原则 |
| 缓存来源Source | 读操作Read Canal | 只能Canal覆盖Read,反之不可以 |
| 时间戳 | | 只能新的时间戳覆盖老的 |

Binlog位置 只能新的位置覆盖老的

| 代码逻辑 | 解释 |
| 业务读 | 只能Canal覆盖Read,反之不可以 优先级:Source > timestamp |

Canal处理事件 优先级:Source > timestamp > Binlog
相关推荐
charlotte102410244 小时前
Redis 简介:从诞生到数据类型,再到缓存三大问题
数据库·redis·缓存
打工仔折腾 AI5 小时前
深入验证 DeepSeek 新模型开源声明:KV 缓存指标与按次计费的后端落地评估
缓存·性能优化·开源·ai agent 实战
java_nnnn6 小时前
数据库读写分离与 Redis 缓存:从 MySQL 查询压力到缓存机制
数据库·redis·缓存
hweiyu006 小时前
Redis命令:SCARD
redis·缓存
码士集团小青15 小时前
SpringBoot 集成缓存性能之王 Caffeine
spring boot·后端·缓存
SHENGWEI胜为20 小时前
交换机端口显示正常,终端却获取不到 IP 地址?从 DHCP 流程定位故障
服务器·网络·测试工具·缓存·通信工程
AAASilverwolf1 天前
OpenAI 新增 12 小时提示缓存:跨小时任务能省多少?
人工智能·gpt·缓存·api
Sayuanni%31 天前
Redis(初阶)
数据库·redis·缓存
XiYang-DING1 天前
P5528.带过期时间的 LRU 缓存
java·开发语言·缓存
2301_777998341 天前
ARP协议进阶:ARP缓存、RARP与ARP欺骗原理解析
linux·服务器·网络·网络协议·缓存