🎯 博主简介
你好，我是安逸，CSDN「人工智能技术领域新星创作者」，码龄 6 年。博客总访问量 31万+，博客粉丝 1.2万+。
我长期关注人工智能技术与工程实践，主要研究和分享 AI Agent、RAG 系统、MCP 协议、OpenClaw、AI 编程工具以及大模型工程化落地。同时也持续输出 Java / Spring、Transformer、机器学习、深度学习与计算机视觉等方向的学习笔记和项目经验。
📚 推荐系列合集
目前已经整理了 生产级 RAG 系统实战、Agent 记忆系统、MCP 协议深度解析、OpenClaw 系列、Hermes Agent + Obsidian、图解机器学习、Claude Code 系列和 Agent 经典面试题等系列合集，涵盖 AI 应用开发、智能体实践、知识管理、机器学习与 AI 编程工具。
📱GZH：安逸Ai (科技前沿新闻，Github热门项目，最新免费资料...)
网页观看完整系列合集：🌐 Anyi AI 学习资源站
这道题考的是：你对大模型输出质量问题（幻觉）的理解，以及如何通过 Prompt 层面去控制和解决。核心要掌握两类幻觉、四种主流方案，以及它们的适用场景。
板块1：什么是 Prompt 幻觉？------先诊断再开药
幻觉分为两类，搞不清楚这个，后面的方案就是瞎子摸象。
第一类：Faithfulness 偏差（不遵循原文）
用户给了上下文，模型却自顾自发挥。比如你给它一段产品文档让它总结，它非要把文档里没有的功能也编进去。这就是"答非所问"的重灾区------用户明明给了信息，模型偏偏不用。
第二类：Factualness 偏差（不符合事实）
模型输出的内容和客观事实对不上。比如你说"苹果公司成立于1976年"，它说成1974年；或者一本正经地编造不存在的论文、名人名言。这类幻觉更隐蔽，因为模型说得太像真的了。
这两类问题的根源不一样。Faithfulness 问题主要出在 Prompt 本身------信息给得不清楚、约束不够、示例太少。Factualness 问题就更底层了，涉及模型本身的知识边界和推理能力。
幻觉两种类型对比图：Faithfulness与Factualness的区别
板块2：提示工程是首选------低成本立竿见影
大多数幻觉问题，优化 Prompt 就能解决大半。不用改模型、不用加系统，成本最低、见效最快。
给样本示例（Few-shot Prompt）
这是最有效的招式。与其长篇大论讲规则，不如直接给例子。
比如你想让模型按特定格式输出，别只说"请按JSON格式返回"，而是直接给一个完整的示例：
输入：苹果公司成立于1976年
输出：{"公司名": "苹果公司", "成立年份": "1976年"}模型一看就懂，比你描述半天规则管用得多。
明确约束边界
把"不要编造"变成具体的禁止语句：
- "如果不确定，坦白说不知道，不要猜测"
- "只基于提供的文档回答，不要加入外部信息"
- "遇到超出范围的问题，明确拒绝"
越具体越好。别让模型猜你的意思。
分步骤引导（Chain of Thought）
对于容易出错的问题，加个"先分析再回答"的约束：
"第一步，先从原文中找出相关信息；第二步，基于这些信息给出答案；第三步，如果原文没有提到，标注为'未提及'"
这招能强迫模型放慢速度，减少乱编。
Few-shot Prompt示例结构图：展示带样本的提示词模板
板块3：内部状态检测和人在回路------实时监控与人工兜底
提示工程不是万能的。有些场景下，你需要在模型生成过程中或生成后做额外检测。
SAPLMA：隐藏层实时检测
这是个比较硬核的方法。核心思路是在模型生成过程中，不看最终输出，而是监控隐藏层的激活状态，判断模型是否在"胡编"。
怎么做到的？先准备一批"幻觉样本"和"正常样本"分别喂给模型，记录它们的隐藏层向量。然后训练一个分类器，让它学会区分这两种状态。
生成时，分类器实时监控。一旦发现激活模式接近"幻觉模式"，就触发警告或强制终止。这比事后检查更及时。
代价是实现成本高，需要对模型架构有一定了解。
人在回路：关键节点的二次验证
不想改模型？那就在关键环节加人工审核。
典型场景：客服自动回复。模型生成的每个回答，发给用户之前先经过客服人员快速过一遍。发现不对立即修改。
这适合高风险场景------医疗建议、法律咨询、金融判断。这类场景出错了代价太大，不能全靠模型。
普通场景就别折腾人了，提示工程足够。
SAPLMA实时检测流程图：隐藏层分类器判断信息真实性的工作原理
板块4：四种方案对比------根据场景选武器
回到核心问题：什么时候用什么方案？
| 方案 | 干预方式 | 实现难度 | 实时性 | 适用场景 |
|---|---|---|---|---|
| 提示工程 | 改输入 | 低 | 即时 | 大多数场景，优先尝试 |
| 内部状态检测 | 改模型 | 高 | 生成中 | 对实时性要求高的场景 |
| 人在回路 | 加人工 | 中 | 生成后 | 高风险场景 |
| 修改模型结构 | 改模型 | 最高 | 训练时 | 长期根本性解决 |
选择原则：先低成本，后高成本
90%的问题，优化 Prompt 就能解决。别一上来就想着改模型。
提示工程搞不定，再考虑人在回路。人工审核成本高，但效果立竿见影。
内部状态检测适合对实时性要求极高的场景，比如流式对话中途打断。
修改模型结构是最彻底的方案，但成本也最高，通常是模型厂商的工作。
实际业务中往往是组合使用：Prompt 优化做主力 + 关键场景加人工审核 + 定期收集bad case持续迭代。
四种方案对比表：干预方式、实现难度、实时性三维对比
方案选择决策树：根据场景选择最优方案的流程图
面试怎么答
基础版
Prompt 幻觉分两类：不遵循原文（Faithfulness）和不符合事实（Factualness）。减少幻觉首先用提示工程------给样本示例、明确约束边界、分步骤引导。这些低成本方法能解决大多数问题。如果场景风险高，可以加人在回路，关键回答前人工审核。提示工程优先，高成本方案备用。
加分版
提示工程是首选，给样本示例（Few-shot）、明确禁止规则、分步骤推理。对于实时性要求高的场景，可以用 SAPLMA 这类内部状态检测方法，在生成过程中通过隐藏层分类器实时判断是否出现幻觉信号。高风险场景必须加人在回路作为兜底。实际业务通常是组合方案：Prompt 优化为主 + 关键节点人工复核 + bad case 持续迭代。
一句话总结
幻觉问题先分类型，提示工程优先搞定大多数，复杂场景再加检测和人工兜底。