LLM:badcase分析

bad case分析是了解业务、了解场景的重要途径,知道当前研究、实践中容易出现的问题,往通俗的说,吸收经验的重要途径。

分析badcase必须要先了解目前模型的效果,也就是baseline,知道该往哪个方向努力。

现状

评测集

要兼顾数量、统计意义、质量。

指标

指标的设计必须要考虑观测的目标。

注重指标的口径,比如不同数据源的情况。

多个指标的组合观测。

结论

确定预期的目标、进一步优化我们当前的算法方案的方向。

分析

分析的对象

根据优化算法的方面来观察不利于指标提升的badcase。

分析思路

粗看法

大体上去看,错误的样本都有什么特点,带有哪些特征,例如长度、句式等是否有什么特点。

追溯法

对一个case,重现整个训练和预测过程的方法。给定一个bad case,准备好日志,分析预测的每个阶段的分析结果,查看是否符合预期。

解决

样本的误导

增广数据

阈值的确定和权衡

不同的阈值得到的召回不一样

预处理

预处理的本质是对数据进行处理使之更好地被用来预测

前处理

指模型预测之前的处理,尤其在模型比较大,性能要求比较高的场景,我们需要把一些肯定确定能快速预测出来的东西给过滤掉,从而提升性能也降低模型的负担,最简单的例如黑白名单,复杂的可以有一些针对业务的规则,例如超短句或者超长句直接拒绝等等,能用规则的尽量用规则。

后处理

指在模型预测以后的一些调整,最直接能想到的就是阈值过滤,但不仅是这些,有的时候需要结合模型的预测打分进行调整

参考:
https://mp.weixin.qq.com/s/GUDVPL_7oZKKUtQZ2ZP4tA

相关推荐
weixin_437497771 小时前
读书笔记:Context Engineering 2.0 (上)
人工智能·nlp
喝拿铁写前端2 小时前
前端开发者使用 AI 的能力层级——从表面使用到工程化能力的真正分水岭
前端·人工智能·程序员
goodfat2 小时前
Win11如何关闭自动更新 Win11暂停系统更新的设置方法【教程】
人工智能·禁止windows更新·win11优化工具
北京领雁科技2 小时前
领雁科技反洗钱案例白皮书暨人工智能在反洗钱系统中的深度应用
人工智能·科技·安全
落叶,听雪2 小时前
河南建站系统哪个好
大数据·人工智能·python
清月电子2 小时前
杰理AC109N系列AC1082 AC1074 AC1090 芯片停产替代及资料说明
人工智能·单片机·嵌入式硬件·物联网
Dev7z2 小时前
非线性MPC在自动驾驶路径跟踪与避障控制中的应用及Matlab实现
人工智能·matlab·自动驾驶
七月shi人2 小时前
AI浪潮下,前端路在何方
前端·人工智能·ai编程
橙汁味的风3 小时前
1隐马尔科夫模型HMM与条件随机场CRF
人工智能·深度学习·机器学习
itwangyang5203 小时前
AIDD-人工智能药物设计-AI 制药编码之战:预测癌症反应,选对方法是关键
人工智能