NLP高频面试题（十三）——什么是大模型幻觉，如何解决大模型幻觉

深入理解大模型幻觉及其解决方案

所谓大模型幻觉，是指LLM在生成文本时出现看似流畅合理但实际上却偏离事实甚至无中生有的内容。这不仅严重影响了模型输出的可靠性，在某些敏感领域（如医疗、法律）可能造成严重后果。本文将深入分析大模型幻觉产生的原因、分类与检测方法，并提出有效的解决策略，帮助更好地理解并应对这一挑战。

一、什么是大模型幻觉？

大模型幻觉（Hallucination）是指大型语言模型在生成文本时，虽然看似流畅、合理，但实际内容却可能毫无根据甚至与事实相悖。这种现象俗称为"一本正经的胡说八道"，严重影响了模型生成内容的可信度。

比如，在医疗咨询应用中，如果模型产生幻觉并生成错误诊断信息，可能危及患者生命安全。因此，了解并有效应对大模型幻觉变得非常必要。

不过值得注意的是，幻觉并非完全有害，在某些需要创造力的情景下，如艺术创作或故事生成，适度的幻觉可能激发创新和想象力。

二、大模型为什么会产生幻觉？

大模型幻觉产生的原因主要包括以下几点：

1. 数据质量问题：训练数据中存在错误、重复、偏见或过时信息，都会被模型学习，导致幻觉。
2. 模型的知识偏差：模型倾向于依赖预训练阶段的知识，而非实时上下文，容易忽略最新或最准确的信息。
3. 随机解码策略：为提高生成文本的多样性，模型在解码过程中使用随机采样（如top-p、top-k），增加了出现幻觉的可能性。
4. 推理过程中错误的传播：模型生成内容中的一个错误可能导致后续生成内容的持续偏差。

三、大模型幻觉有哪些类型？

幻觉通常可分为两大类：

• 内在幻觉（Intrinsic Hallucination）：模型生成的信息与给定源信息相互矛盾。
• 外在幻觉（Extrinsic Hallucination）：模型生成的信息无法通过源信息进行验证，属于无中生有。

进一步，从表现形式看，还可以细分为事实性错误、忠诚度问题（如违背指令或上下文）和自我矛盾三类。

四、如何检测大模型幻觉？

幻觉检测的主要方法包括：

1. 实体和关系抽取法：对生成文本中的实体或关系进行抽取，与源文本或知识库对比，确认是否存在幻觉。
2. 自然语言推理（NLI）：利用专门的推理模型，判断生成文本是否符合源信息逻辑。
3. 问答（QA）验证法：利用源信息回答生成文本中的问题，通过答案一致性来检测幻觉。
4. 多样性一致性检查：通过对同一问题多次生成回答，检查回答间一致性，判断是否存在幻觉。

五、缓解大模型幻觉的有效策略

针对幻觉产生的原因和类型，可以采取以下缓解措施：

1. 优化数据质量：构建更高质量、低噪声的数据集，通过消重技术避免重复数据，通过专业审核降低数据错误和偏见。

2. 引入外部知识验证（检索增强）：

   • 在生成文本后，通过检索外部知识库验证并修正。
   • 使用链式检索方法，逐步验证复杂问题，降低幻觉的发生。

3. 改进解码策略：

   • 使用事实核心采样（Factual-nucleus sampling），在句子后半段逐渐降低随机性，以增强事实准确性。
   • 使用SelfCheckGPT方法，通过多次随机生成和自我验证，筛除可能的幻觉内容。

4. 模型编辑技术：

   • 直接对模型参数进行编辑，以修正错误知识（如ROME、MEMIT方法）。
   • 增加外部模块或额外参数，实时修正模型知识边界。

5. 自我校验与反思机制：

   • Chain-of-Verification（验证链）通过多次提问校验生成结果。
   • Self-Reflection（自我反思）让模型不断迭代反思并修正自己的答案。