网关实现的缓存基本都是用临时缓存 + TTL 方式实现的。当用户请求服务端时,被缓存的 API 如果之前已经被请求过,并且缓存还没有过期的话,就会直接返回缓存内容给客户端。这个方式能大大降低后端的数据服务压力。 不过每一种技术选择,都是反复权衡的结果,这个方式是牺牲了数据的强一致性才实现的。另外,这个方式对缓存能力的性能要求比较高,必须保证网关缓存可以扛得住外网流量的 QPS。 如果想预防穿透流量过多,也可以通过脚本定期刷新缓存数据,网关查到相关缓存就直接返回,如果没有命中,才会将真正请求到服务器后端服务上并缓存结果。这样实现的方式更加灵活,数据的一致性会更好,只是实现起来需要人力去写好维护代码。
相关推荐
蜗牛互联网13 分钟前
长任务多Agent共享文件系统的Manifest交接模式苏supper2 小时前
Spring Boot多环境配置与打包运行geovindu2 小时前
rust: Composite PatternSearchMan2 小时前
还有人不知道&和&&的区别?想用offer打牌3 小时前
Personal Agent爆火 - 它到底是个什么IT_陈寒3 小时前
Vue的v-if和v-for混用居然是个天坑打工仔折腾 AI5 小时前
从Attention到BERT:双向预训练语言模型到底解决了什么问题lizhongxuan6 小时前
Agent Sandbox: Firecracker 任务生命周期YYYing.6 小时前
【设计模式系列 (七) 】桥接模式lizhongxuan7 小时前
Agent Sandbox: Firecracker 镜像、启动与 I/O