LLM:badcase分析

bad case分析是了解业务、了解场景的重要途径,知道当前研究、实践中容易出现的问题,往通俗的说,吸收经验的重要途径。

分析badcase必须要先了解目前模型的效果,也就是baseline,知道该往哪个方向努力。

现状

评测集

要兼顾数量、统计意义、质量。

指标

指标的设计必须要考虑观测的目标。

注重指标的口径,比如不同数据源的情况。

多个指标的组合观测。

结论

确定预期的目标、进一步优化我们当前的算法方案的方向。

分析

分析的对象

根据优化算法的方面来观察不利于指标提升的badcase。

分析思路

粗看法

大体上去看,错误的样本都有什么特点,带有哪些特征,例如长度、句式等是否有什么特点。

追溯法

对一个case,重现整个训练和预测过程的方法。给定一个bad case,准备好日志,分析预测的每个阶段的分析结果,查看是否符合预期。

解决

样本的误导

增广数据

阈值的确定和权衡

不同的阈值得到的召回不一样

预处理

预处理的本质是对数据进行处理使之更好地被用来预测

前处理

指模型预测之前的处理,尤其在模型比较大,性能要求比较高的场景,我们需要把一些肯定确定能快速预测出来的东西给过滤掉,从而提升性能也降低模型的负担,最简单的例如黑白名单,复杂的可以有一些针对业务的规则,例如超短句或者超长句直接拒绝等等,能用规则的尽量用规则。

后处理

指在模型预测以后的一些调整,最直接能想到的就是阈值过滤,但不仅是这些,有的时候需要结合模型的预测打分进行调整

参考:
https://mp.weixin.qq.com/s/GUDVPL_7oZKKUtQZ2ZP4tA

相关推荐
IT_陈寒1 小时前
Vue这个坑我跳了两次,原来问题出在这
前端·人工智能·后端
新新技术迷1 小时前
Node给AI接口做SSE代理与鉴权
人工智能
redreamSo2 小时前
大模型是不是到顶了?瓶颈到底在哪
人工智能·openai
Oo9202 小时前
Tool Use 背后的技术逻辑
人工智能
姗姗来迟了2 小时前
Vue3封装AI流式对话组件踩坑实录
人工智能
码上天下3 小时前
用Pinia管理AI多会话状态
人工智能
用户054324329703 小时前
Next.js接大模型流式SSE实操踩坑
人工智能
Assby4 小时前
从 Function Calling 到 MCP:理解 Agent 工具调用的底层通信机制
人工智能·后端
小星AI4 小时前
Claude Code 从入门到精通,一步到位
人工智能
后端小肥肠4 小时前
Codex + Obsidian 做人生副本视频:输入主题文案,直通剪映草稿
人工智能·aigc·agent