小白的RAG缓存

RAG流程:

  1. 用户提问(q)

  2. 对q做处理(重写 \ 查询扩展 \ 向量化)

  3. 向量库检索(向量相似度匹配)

  4. 将q+选出的文档片段组合成prompt

  5. 调用大模型回答a

1.完整问答缓存(q → a cache)

将每个q标准化以后,与对应的a做匹配后存入缓存,当用户再问同样的问题后直接返回与其对应的a

key : q问题(标准化后的问题)

value :模型返回的答案

2. 近似问题缓存

3. 检索结果缓存

相关推荐
小贺儿开发23 分钟前
DeepSeek + Codex + MCP:Unity 游戏开发实测
科技·游戏·unity·ai·程序员·编程·deepseek
Xuantong_9031 分钟前
从Qwen3.6到Qwen3.8-27B:开源本地模型的一次“工程级蜕变“
人工智能·ai·智能体
ServBay1 小时前
小扎的豪赌交卷了,Meta Muse Wonder 能碾压GPT和Opus吗?
meta·aigc·ai编程
秋饼1 小时前
Claude Haiku 5.5 + Spring AI 2.0 企业级低成本高并发 AI Agent 实战:子智能体分工、成本熔断与百万上下文落地
java·ai·技术分享·后端开发
早点睡觉好了1 小时前
LangChain 源码入门 02:消息、ChatPromptTemplate 与 Chat Model 调用链
ai·langchain·策略模式
智行合一科技2 小时前
电商短剧百亿精品计划发布,AIGC重塑内容电商
aigc·短剧
ELI_He9992 小时前
SDD Spec-Driven Development
ai·spec
2601_950790682 小时前
国产单片机厂家推荐:英锐恩8位MCU适合哪些控制项目
ai
AINative软件工程2 小时前
别再盲目加 RAG:AI 应用增长的第一块飞轮,应该是上下文缓存
aigc
葡萄城技术团队2 小时前
把商业表格引擎接进 Agent 工作台:四次取舍
ai