MRR(Mean Reciprocal Rank)和 NDCG(Normalized Discounted Cumulative Gain)

MRR计算就是看我想要的排序是第几。比如我要搜python教程,搜出来是:

(MRR(Mean Reciprocal Rank)平均倒数排名:第一个正确答案排在第几位,比如搜索python教程,第一个是python官网广告,第二个是某培训机构广告,第三个是python官方文档,第四个是某博客教程。那么第三个才是我想要的,所以MRR就是1/3.

NDCG:Normalized Discounted Cumulative Gain。不仅要看是否召回,还要看排序是否合理。假如标准答案中有5篇论文,相关性得分不同。

然后agent搜到到的论文顺序是:

看清楚这个是咋计算的,就是gain得分除以log以2为底,然后括号里面的数字是从2开始每次加一的

排在第 1 位:不打折,得分 = Gain / log₂(1+1) = Gain / 1

排在第 2 位:打折,得分 = Gain / log₂(2+1) = Gain / 1.58

排在第 3 位:更打折,得分 = Gain / log₂(3+1) = Gain / 2

排在第 10 位:严重打折,得分 = Gain / log₂(10+1) = Gain / 3.46

然后计算得到的值和期望得到的结果,也就是期望agent搜索得到的结果是:

将两个结果进行相除,来判断agent的效果

衡量排序质量的指标

相关推荐
今天AI了吗6 小时前
合规场景下的 AI 推理可解释性:Attention 可视化与推理路径追踪的工程实践
人工智能
周末程序猿6 小时前
浅析大模型推理十二篇之KV Cache
人工智能
鱼樱前端6 小时前
用 AI 做内容变收入
前端·人工智能·ai编程
eric-sjq7 小时前
10 分钟实战:用 0.6B 本地模型生成中文网页(WanlyFrontend + 编译器全流程)
javascript·机器学习·自然语言处理·html
Dawson Zhu7 小时前
基于Palantir Foundry构建半导体制造AI友好型数据中台:从良率分析场景谈起
人工智能·语言模型·架构·制造·agi
fthux7 小时前
装闭 RenoPit 源码解析(04):装修图纸和合同文件上传处理流程
人工智能·ai·开源·github·open source·renopit
weixin_446260859 小时前
从被动镜像到主动智能体:面向网络物理人工智能的整体论数字孪生(HDT-Net)
网络·人工智能
秋枫要学习9 小时前
你的鼠标,正在被 AI 抢走
人工智能·计算机外设
满怀冰雪10 小时前
19-图像数据处理:PaddleVision Transform 实战
人工智能·深度学习·计算机视觉·paddle