网关实现的缓存基本都是用临时缓存 + TTL 方式实现的。当用户请求服务端时,被缓存的 API 如果之前已经被请求过,并且缓存还没有过期的话,就会直接返回缓存内容给客户端。这个方式能大大降低后端的数据服务压力。 不过每一种技术选择,都是反复权衡的结果,这个方式是牺牲了数据的强一致性才实现的。另外,这个方式对缓存能力的性能要求比较高,必须保证网关缓存可以扛得住外网流量的 QPS。 如果想预防穿透流量过多,也可以通过脚本定期刷新缓存数据,网关查到相关缓存就直接返回,如果没有命中,才会将真正请求到服务器后端服务上并缓存结果。这样实现的方式更加灵活,数据的一致性会更好,只是实现起来需要人力去写好维护代码。
相关推荐
葫芦和十三14 小时前
图解 MongoDB 13|WiredTiger 存储引擎:B-tree、页和 checkpoint 三件套葫芦和十三14 小时前
图解 MongoDB 14|Cache 与淘汰:WiredTiger 的内存治理IT_陈寒18 小时前
Vue这个坑我跳了两次,原来问题出在这ServBay19 小时前
9 个 Python 第三方库推荐,不用 AI 都好像多出一个团队用户83562907805119 小时前
如何使用 Python 添加和管理 Excel 批注(完整示例)用户83562907805119 小时前
使用 Python 管理 Excel 工作表:创建、复制、删除与重命名lizhongxuan19 小时前
Agent ToolCaffeinePro20 小时前
依赖注入:FastAPI最核心的解耦能力案例解析Assby21 小时前
从 Function Calling 到 MCP:理解 Agent 工具调用的底层通信机制打字机v21 小时前
创建第一个spring-boot项目