LoRA 微调后幻觉排查 Checklist

1. 数据层面

  • 数据量够吗?

    • 少量样本(几千条以下)容易导致过拟合和幻觉。
  • 数据是否高质量?

    • 是否有事实错误、模糊答案?
  • 覆盖范围够吗?

    • 是否只覆盖了窄领域,而推理时遇到"未见过"的问建议:扩大数据集规模、清洗低质量样本、增加多样化覆盖。

2. 模型层面

  • 基座模型本身是否容易幻觉?

    • 有些大模型本来就事实性较差,LoRA 无法根本修复。
  • LoRA rank / α 参数是否过小?

    • 表达能力不足,导致模型无法学到可靠约束。
  • 是否考虑了 PEFT 以外的方法?

    • 比如 Adapter、Prefix Tuning,某些任务比 LoRA 更合适。

建议:调大 LoRA rank,或者尝试混合参数高效微调方法。

3. 训练策略层面

  • 训练目标是否合理?

    • 仅 SFT(监督微调)可能让模型"会说话",但不会"说真话"。
  • 是否做了对齐训练(RLHF / DPO / contrastive loss)?

    • 没有对齐,模型更容易随便编造。
  • 是否检查过过拟合?

    • 训练集上表现很好,但验证集/推理时出现幻觉 → 过拟合信号。

建议:在 SFT 后补充对齐训练,引入 fact-check loss 或 RLHF。

4. 推理层面

  • 解码策略是否过于自由?

    • Temperature 太高、top-p 太大 → 输出更随机 → 幻觉增多。
  • 是否提供了足够的上下文?

    • 提示词没给足背景,模型就会凭空填补。
  • 是否尝试过工具调用 / RAG?

    • 纯模型生成往往难以保证事实性,可以加外部知识库检索。

建议:

  • 降低 temperature(如 0.2~0.5),收紧 top-p。

  • 优化 prompt,加入"不要编造,如果不知道就回答不知道"。

  • 加入 RAG(检索增强生成),让模型有知识支撑。

总结路径

  1. 先看数据 → 够不够、准不准。

  2. 再看 LoRA 参数 → rank、适配能力。

  3. 再看训练方式 → 是否仅做了 SFT,缺乏对齐。

  4. 最后看推理设置 → 解码参数、上下文、工具辅助。

相关推荐
Vizio<几秒前
《模仿人类皮肤层与环层小体的社交交互机器人皮肤》2024 IEEE/ASME TMECH 论文解读
人工智能·笔记·学习·机器人·交互·触觉传感器
Baihai_IDP1 分钟前
对 GPT 5 模型路由机制的深度解析
人工智能·面试·llm
剑指~巅峰27 分钟前
Rust智能指针的奇妙之旅:从踩坑到顿悟
开发语言·人工智能·深度学习·机器学习·rust
放羊郎27 分钟前
SLAM各类算法特点对比
人工智能·算法·slam·视觉slam·建图·激光slam
m0_7482313128 分钟前
从企业开发到AI时代:Java的新征程与技术蜕变
java·开发语言·人工智能
Y2003091634 分钟前
图像分割重点知识总结
人工智能·深度学习·计算机视觉
国科安芯1 小时前
基于ASM1042通信接口芯片的两轮车充电机性能优化研究
服务器·网络·人工智能·单片机·嵌入式硬件·性能优化
hrrrrb1 小时前
【机器学习】管道化与自动化建模
人工智能·机器学习·自动化
Sunhen_Qiletian1 小时前
高性能人工智能目标检测开山篇----YOLO v1算法详解(上篇)
人工智能·深度学习·yolo·目标检测·计算机视觉·目标跟踪
koo3641 小时前
李宏毅机器学习笔记36
人工智能·笔记·机器学习