架构训练营学习笔记:5-1 计算架构模式之多级缓存架构

本节主要是计算架构。

多级缓存架构

缓存与缓冲:通常场景是读缓存,写缓冲。

缓存技术的本质:空间换时间,因此缓存架构属于高性能计算 架构。

缓存设计框架

主要考虑存什么?存多久?存哪里?如何存的问题。

更新机制

过期更新

缓存有效期内一直用缓存,超过有效期后去重新读取。例如:HTTP缓存

定期更新

定期更新缓存

主动更新:

当数据修改后,主动更新缓存。例如:业务写数据库时更新Redis缓存。

多级缓存架构

这是一个完整的多级缓存架构,要根据自己的业务场景来考虑,不是都要上CDN。

考虑点:性能需求、架构复杂度。

缓存技术概要介绍

本地缓存

CDN缓存

Content Delivery Network,即内容分发网络,依靠部署在各地的边缘服务器,通过中心平台的负载均衡、内容分发、调度等功能模块,使用户就近获取所需内容,降低网络拥塞,提高用户访问响应速度和命中率,关键技术是内容存储和分发技术。

Web容器缓存

Web容器缓存一般缓存静态资源,例如图片、JavaScript、CSS等,配合HTTP协议实现缓存

应用缓存+分布式缓存

redis 与memcache的选择

redis相对 均衡,支持复杂数据结构,支持持久化,至于大对象,还可以结合业务来优化。

下面这张图很有用,很多常见的耗时都有,比如内存、磁盘、机房等,值得收藏。

数据缓存

设计核心:1、用什么缓存系统;2、如何应对数据一致性挑战

应用场景:实时性要求高的业务,读多写少的业务

结果缓存

缓存结果,实时性要求不高。

分布式缓存架构设计思路

这里上缓存之前,可以先读写分离考虑下,这是一种折中,就是如果这样能满足业务需求,代价更小,架构没有那么复杂。

数据缓存一致性设计

本质是需要保证缓存系统和存储系统实现分布式事务。推荐方案3:先删除缓存再写存储。就是应对异常的情况。

一致性解决方案

其中canal 跟3消息队列原理差不多

缓存穿透

缓存没有发挥作用,业务系统虽然去缓存查询数据,但缓存中没有数据,业务系统需要再次去存储系统中查询数据。

应对方法:

方法3:缓存预热

应对运营活动、秒杀、大促等场景

  1. 模拟请求触发系统生成缓存,实现比较复杂
  2. 后台按照规则批量生成缓存,实现工作量较大
  3. 灰度发布/预发布触发系统生成缓存(推荐)

方法4:随机失效

缓存有效期设定为一个时间范围内的随机值。应对后台批量生成的缓存

缓存雪崩

缓存失效引起雪崩效应

缓存雪崩应对方式

缓存雪崩通常是少量的热点key异常导致的,而不是像穿透那种大量的key造成的。即使后台更新,也不能完全保证没问题,例如Redis 内存空间不足,会有淘汰机制,使用随机淘汰也可能导致缓存雪崩。

缓存热点

部分缓存访问量超高。例如:热点事件、突发事件

相关推荐
heimeiyingwang几秒前
【架构实战】Redis性能调优与内存优化策略
数据库·redis·架构
呆子也有梦1 分钟前
游戏服务端大地图架构通俗指南:从“分区管理”到“动态调度”
服务器·后端·游戏·架构·系统架构
南無忘码至尊2 分钟前
Unity学习90天-第3天-认识触屏输入(手游基础)并完成手机点击屏幕,物体向点击位置移动
学习·unity·c#·游戏引擎·游戏开发
Roselind_Yi6 分钟前
【开源仓库系列学习分享】MemPalace 仓库(超级记忆管家)全流程部署!(专业版)
人工智能·经验分享·笔记·python·数据挖掘·github·知识图谱
青桔柠薯片7 分钟前
从字符设备到平台驱动:IMX6ULL LED 与蜂鸣器驱动开发学习总结
驱动开发·学习·imx6ull
JACK的服务器笔记10 分钟前
《服务器测试百日学习计划——Day19:PCIe自动检测脚本,用Python把lspci设备清点标准化》
服务器·python·学习
南無忘码至尊12 分钟前
Unity学习90天-第3天-认识C# 集合与常用类并实现生成随机位置的 10 个立方体
学习·unity·c#
_李小白13 分钟前
【OSG学习笔记】Day 47:相机漫游实现
笔记·数码相机·学习
Hello_Embed15 分钟前
嵌入式上位机开发入门(二十):写文件功能的 RTU/TCP 双协议适配
网络·笔记·单片机·网络协议·tcp/ip·嵌入式
知识分享小能手16 分钟前
MongoDB入门学习教程,从入门到精通,MongoDB监控完全指南(22)
数据库·学习·mongodb