RAG 入门到精通 - 一次完整的评估过程

前面两篇文章都是在讲系统的构建,现在自己构建的系统基本上已经能构成一个闭环。但是,真正需要做的事儿才刚开始呢。

系统的构建本质上是为了服务于整个业务流程,我们不能只做系统,不断的迭代、优化数据,才是让RAG系统发生质变的关键。

回到我们项目中来看。初始的三篇文档中有两篇是我抓的,"咖啡冲煮技巧"是我生成的。

这里就会面临一个问题。我怎么知道现阶段我准备的数据是否足够?能满足普通顾客的日常咨询问题吗?

构建初始的数据集

我借助 Agent,帮我模拟两个角色来分别回答。

首先,作为买家,从手冲新手和进阶玩家这两种角度来提问。这里的意图是,让我知道有哪些问题是咨询频率最高的。

其次,作为卖家,对这两种问题进行回答。先参考平时大家怎么回复的,这里不需要参考我的文档。

之所以这样做,是因为我本身并没有标准答案。我让 Agent 给出的答案也是大家回复中最常见的,那这种模型生成的回复,我把它当作基准水平。我要做的是让 RAG 的回答,尽量靠近我们的基准水平。

评估并根据反馈进行改进

接着需要将生成的CSV拿去跑评估,得到评估的结果。

然后,再让 Agent 分析,接下来要优化的方向有哪些,给出参考意见。

这一套下来就是一次数据评估的过程,后面就看优化的取舍了。目前我肯定希望优先补数据和加子标题,这是最简单的。

至于话术的部分,那就在说吧,毕竟我也不直到真正的话术该是咋样的啊~

相关推荐
小保CPP1 小时前
OpenCV C++基于模糊数学的图像滤波
c++·人工智能·opencv·计算机视觉
木心术11 小时前
2026年设计类职业AI工具推荐与技能图谱
人工智能
handsomestWei1 小时前
RNN和QKV区别
人工智能·rnn·深度学习
AI新角度1 小时前
构建系统优化:增量编译与缓存命中率提升
人工智能
陈嘿萌2 小时前
ICML 2026 | 福州大学 LaRA-Fusion:用双环约束优化红外与可见光融合潜空间的拓扑结构
人工智能·图像融合·icml2026·福州大学·双环约束
三声三视2 小时前
我弃了“全自主 Agent“:一次误退款,让我给所有危险工具加了道人工闸
人工智能·ai·aigc
Python私教2 小时前
前端转 AI 全栈:别只做聊天框,SSE 与审批流才是分水岭
前端·人工智能
机器人落地派2 小时前
机器人项目变更闭环检查表:别只写“已经改了”
人工智能·机器人·人形机器人·机器人落地·评审
小园子的小菜2 小时前
从Prompt到Loop:AI工程化四层范式完全指南(Prompt/Context/Harness/Loop)
人工智能·prompt