缓存

一枕槐安487

RAG 服务扛住高并发：缓存、队列、限流三件套摘要高并发 RAG 服务的瓶颈通常不在检索或生成算法本身，而在同步请求模型下的连接堆积、重复计算和故障级联。本文从语义缓存、异步任务解耦、限流与降级三个层面拆解可落地的优化架构。读者将获得分层缓存策略、文档摄取异步化方案、令牌桶与断路器组合的工程实现，以及命中率-延迟-成本之间的量化权衡依据。

与数据交流的路上

一次 redis 幽灵内存的分析业务使用的 Redis 由主从切换到了 Cluster 后，Redis 出现了诡异的内存上涨。查看 info 观测内存使用就是很高且碎片率很低,而且 key 的数量很少

06 · DeepSeek V4.1 Flash 推理端到端走查：一个 Agent 请求穿过 recipe、KV 缓存、Prefill 与 Decode📦 GitHub: https://github.com/geekchow/deepseek-v41-flash-inference-guide

前进的李工

Agent 学习笔记 04：KV Cache 与上下文缓存模型每生成一个token都得根据前面所有的token计算得来，如果每轮都重头计算一次，开销会随着上下文长度爆炸式增长。因此不会全部重新计算，这里就引入了KV Cache的理念，具体做法就是把前文的中间计算结果缓存下来，下一轮只需要计算新增token的部分。但这么做有一个前提——复用的上下文token前缀保持不变。哪里发生了变化就从首个不同token及以后的KV状态都得重新计算（该位置之前的依旧可以复用不受影响）

第 5 篇：Ubuntu 安装 Redis本篇介绍如何在 Ubuntu 24.04 上安装 Redis。Redis 作为内存缓存数据库，本篇会完成密码设置与远程访问配置。推荐使用 APT 直接安装，简单稳定，便于后续随系统更新维护。

DeepSeek总结的ALTER FUNCTION SET work_mem：无需全局更改即可修复 PostgreSQL 磁盘溢出ALTER FUNCTION SET work_mem：无需全局更改即可修复 PostgreSQL 磁盘溢出

Redis 工具封装：RedisCache 对 Operations 体系的二次封装本文基于若依3.9.2、SpringBoot3版本。若依对 Redis 缓存封装了一个类：com.ruoyi.common.core.redis.RedisCache。登录态、验证码、参数配置、字典数据、密码错误次数、防重复提交都以它为入口落到 Redis。

DeepSeek总结的PostgreSQL 中的 SQL 与 PL/pgSQL：计划缓存PostgreSQL 中的 SQL 与 PL/pgSQL：计划缓存在 PostgreSQL 16 上，一个由 PL/pgSQL 循环逐行调用的 SQL 函数每次调用都会被重新规划，而 PL/pgSQL 会缓存其计划。

Cloudflare GLM-5.3 串号事故复盘：KV 缓存页记账错了一个字段，155 条回复答进了别人的会话结果：生成端从第 1—7 页读出的是此前请求未擦除的提示词与半截回答，拼接成一条连贯、甚至"更快"的回复返回给客户。测试全绿——断言只查 HTTP 状态码：

Spring 同一个类里调用 @CacheEvict，为什么缓存没清掉？清缓存的方法加了 @CacheEvict，日志也打印了，缓存却还在。方法确实执行了，但调用可能没有经过 Spring 代理。下面看同类调用如何绕过注解，以及已有代码怎样回到代理入口。

Redis命令：SMOVESMOVE 把一个成员从一个集合原子地移动到另一个集合：成员在源集合中时，从源集合删除并加入目标集合，返回 1；成员不在源集合中时不做任何操作，返回 0。它从 Redis 1.0.0 起提供，复杂度为 O(1)。可以把它理解为 SREM + SADD 的原子合并版：省一次网络往返，也不会出现"从源删掉了但没加进目标"的中间状态。

Agent 隔离为什么失效：CPU 缓存成了跨机器信道原文：OpenAI - 《Securing our frontier model training environment》（https://openai.com/index/securing-our-frontier-model-training-environment）

从传统运维到 AI Infra: K8s 上调度 100 张 GPU踩坑笔记在传统的微服务架构里，CPU 和内存是弹性且可以任意细分的。你给一个 Web Pod 分配 cpu: 500m、memory: 1Gi，K8s 的 Cgroups 限制得明明白白。

Spring缓存抽象详解定位：主题第 06 篇，讲透注解式缓存抽象（@Cacheable 等）、CacheManager 体系、key 设计与工程边界适用版本：Spring Framework 6.x（Boot 3.x）

WordPress 前台改完还是旧页：浏览器、CDN、页面缓存、对象缓存怎么分层清前天改了首页一句标语，后台明明已经是新文案，无痕窗口刷了十几次前台还是旧的。客服以为没保存成功，运营以为被回滚了，最后一对响应头才发现：页面缓存和 CDN 各自留了一份旧 HTML。WordPress 改完内容前台还是旧版，多半不是数据库没写上，而是某一层还在喂旧页。

AI翻译助手-JWT与redis无状态认证学认证的时候，都会遇到一个选择题：JWT 无状态，服务端不存 session，天然可扩展，但没法主动失效（踢人下线、改密码让旧 token 失效都做不到）；Session 有状态，可主动失效，但要维护状态、分布式要共享。

牧瀬クリスだ

Redis String深度解析：从底层到五大实战场景String 是 Redis 里最基础、也是用得最频繁的数据类型。几乎每个系统的第一个 Redis 用法，都是拿它来"缓存一个值"。但如果你对 String 的理解只停留在 SET / GET，那就太可惜了——它不仅能存文本，还能做计数器、做分布式锁、做限流、做验证码，背后还藏着精心设计的底层结构。

缓存作为架构约束以下内容涉及生产级 Agent 的架构细节，初次阅读可以跳过，在实际开发 Agent 时回来参考。在生产级的 Agent 系统中，缓存不仅仅是性能优化手段——它是一个**架构约束**，决定了系统中许多看似无关的设计决策。

云上工程笔记

2026年大模型Token成本测算推荐清单：输入输出、缓存、并发与峰值用量很多团队算大模型成本，只做一道乘法：每天调用次数乘以每百万 Token 单价。这个算法在原型阶段够用，一进入生产就会失真。真正决定账单的，是输入里有多少内容每次都被重复发送、输出长度是否失控、缓存能否真正命中、高峰时的并发会不会触发限流，以及失败重试有没有被计入。