RAG 入门到精通 - 一次完整的评估过程

前面两篇文章都是在讲系统的构建,现在自己构建的系统基本上已经能构成一个闭环。但是,真正需要做的事儿才刚开始呢。

系统的构建本质上是为了服务于整个业务流程,我们不能只做系统,不断的迭代、优化数据,才是让RAG系统发生质变的关键。

回到我们项目中来看。初始的三篇文档中有两篇是我抓的,"咖啡冲煮技巧"是我生成的。

这里就会面临一个问题。我怎么知道现阶段我准备的数据是否足够?能满足普通顾客的日常咨询问题吗?

构建初始的数据集

我借助 Agent,帮我模拟两个角色来分别回答。

首先,作为买家,从手冲新手和进阶玩家这两种角度来提问。这里的意图是,让我知道有哪些问题是咨询频率最高的。

其次,作为卖家,对这两种问题进行回答。先参考平时大家怎么回复的,这里不需要参考我的文档。

之所以这样做,是因为我本身并没有标准答案。我让 Agent 给出的答案也是大家回复中最常见的,那这种模型生成的回复,我把它当作基准水平。我要做的是让 RAG 的回答,尽量靠近我们的基准水平。

评估并根据反馈进行改进

接着需要将生成的CSV拿去跑评估,得到评估的结果。

然后,再让 Agent 分析,接下来要优化的方向有哪些,给出参考意见。

这一套下来就是一次数据评估的过程,后面就看优化的取舍了。目前我肯定希望优先补数据和加子标题,这是最简单的。

至于话术的部分,那就在说吧,毕竟我也不直到真正的话术该是咋样的啊~

相关推荐
泯泷8 分钟前
AI时代,中层还要替公司传多少次话?
人工智能·架构
装不满的克莱因瓶14 分钟前
【SpringAI Alibaba】ReactAgent记忆管理MessageTrimmingHook与MessageDeletionHook
java·人工智能·ai·ai编程·springai·springaialibaba
Dawson Zhu26 分钟前
【LLM推理与Serving⑧】多机多卡Serving:TP/PP/负载均衡与弹性扩缩容全攻略
人工智能·语言模型·架构·aigc·agi
飞哥数智坊39 分钟前
DSH+DeepSeek 实测 Anatomy Skill:让技术原理可视化
人工智能
长不大的杨瑞杰44 分钟前
ChatGPT 广告技术栈架构拆解:多轮意图、LLM 工具编排、ANN 召回与拍卖闭环
人工智能·chatgpt·系统架构·推荐系统·广告
迪菲赫尔曼1 小时前
【基础篇 26】第一次在服务器完成训练:准备数据、断线继续、检查成果与备份
运维·服务器·人工智能·机器学习·计算机视觉
小年糕是糕手1 小时前
【AI】用 AI 做自己的个人网站(上):选模板、写提示词,做出第一版
人工智能·app·网页开发·codex·index·styles·0基础教程
硅谷秋水1 小时前
RoboAtom:机器人学习的大规模原子-动作监督
人工智能·机器学习·计算机视觉·机器人
vipxieliang2 小时前
具身智能2026:从实验室演示到万台级量产
人工智能