RAG 入门到精通 - 一次完整的评估过程

前面两篇文章都是在讲系统的构建,现在自己构建的系统基本上已经能构成一个闭环。但是,真正需要做的事儿才刚开始呢。

系统的构建本质上是为了服务于整个业务流程,我们不能只做系统,不断的迭代、优化数据,才是让RAG系统发生质变的关键。

回到我们项目中来看。初始的三篇文档中有两篇是我抓的,"咖啡冲煮技巧"是我生成的。

这里就会面临一个问题。我怎么知道现阶段我准备的数据是否足够?能满足普通顾客的日常咨询问题吗?

构建初始的数据集

我借助 Agent,帮我模拟两个角色来分别回答。

首先,作为买家,从手冲新手和进阶玩家这两种角度来提问。这里的意图是,让我知道有哪些问题是咨询频率最高的。

其次,作为卖家,对这两种问题进行回答。先参考平时大家怎么回复的,这里不需要参考我的文档。

之所以这样做,是因为我本身并没有标准答案。我让 Agent 给出的答案也是大家回复中最常见的,那这种模型生成的回复,我把它当作基准水平。我要做的是让 RAG 的回答,尽量靠近我们的基准水平。

评估并根据反馈进行改进

接着需要将生成的CSV拿去跑评估,得到评估的结果。

然后,再让 Agent 分析,接下来要优化的方向有哪些,给出参考意见。

这一套下来就是一次数据评估的过程,后面就看优化的取舍了。目前我肯定希望优先补数据和加子标题,这是最简单的。

至于话术的部分,那就在说吧,毕竟我也不直到真正的话术该是咋样的啊~

相关推荐
console.log('npc')11 小时前
[特殊字符] AI Agent 工作台前端实战教程 · 新手入门指南
前端·人工智能
温温top11 小时前
AnythingLLM+deepseek+RAG知识库实现AI客服
人工智能
果霸大叔12 小时前
AI 网关第 10 篇:协议无关层——一个请求如何被认出、翻译、透传
人工智能
adinnet202612 小时前
企业碳资产管理:从碳盘查到碳交易,把排放理清
人工智能·深度学习·自动化
林墨聊AIGC12 小时前
AI分镜模板:一键生成高效短剧视觉流程
人工智能·ai作画·aigc·音视频·ai写作
Pocker_Spades_A12 小时前
论文精读(十):面向具身人工智能的物体目标导航综述:从“找东西“到启元机器人的导航基础能力
人工智能·机器人
whyutianict_vv12 小时前
AI 大模型技术架构解析:从推理链路到训练流程
人工智能·ai·架构·开发
一根会思考芦苇12 小时前
王阳明五百年前的知行合一,能解决今天的 AI 对齐难题吗?
人工智能
方方洛12 小时前
ai-agent教程-12-生产部署
人工智能·llm·agent
SDWAN_Cheap12 小时前
AI Agent的“自主攻击”时代已经来了?
人工智能·网络安全