01
动机
基于知识图谱的检索增强生成技术旨在缓解大语言模型因知识不足或过时而产生的幻觉问题。然而，现有的方法往往未能充分利用嵌入在知识图谱中的先验知识，特别是结构信息和显式或隐式的约束条件。
（1）结构信息的价值：利用连接问题主题实体与答案的"关系路径"，不仅能增强对 KG 内部结构模式的感知，还能显著提高 LLM 推理的忠实度。
（2）约束条件的价值：问题中隐含的约束（如类型约束、多实体约束等）具有双重作用------既可以用于过滤候选关系路径，也可以在推理过程中指导 LLM 进行回溯，从而提高推理过程的可靠性和鲁棒性。
基于此，作者提出了一种名为DP (Deliberation on Priors)的可信推理框架，旨在通过充分利用 KG 中的先验知识来生成可信且忠实的回答。
02
贡献
本文的主要贡献总结如下：
（1）提出了 DP 框架：引入了一种名为"Deliberation on Priors (DP)"的可信推理框架，通过对嵌入在知识图谱中的先验知识进行审慎推理，赋能大语言模型生成忠实且可靠的回答。
（2）渐进式知识蒸馏策略：提出了一种结合监督微调和 KTO优化的渐进式知识蒸馏策略。该策略利用先验结构信息，使 LLM 能够生成忠实的关系路径。
（3）推理-内省策略：提出了一种推理-内省策略，通过引入预定义的约束先验作为指导，引导 LLM 进行精细的推理验证，从而增强生成的可靠性。
（4）实验验证与 SOTA 性能：在三个公开基准数据集（WebQSP, CWQ, MetaQA）上进行了广泛实验。结果表明，DP 取得了新的最先进（SOTA）性能，特别是在 Complex WebQuestions 数据集上，H@1指标提升了 13%。同时验证了 DP 在集成不同 LLM 时的灵活性以及在低交互频率下的实用性。
03
方法
DP 框架主要包含四个关键模块：蒸馏、规划、实例化和内省，过程分为离线和在线两个阶段。
3.1 离线阶段：蒸馏
该模块旨在通过渐进式知识蒸馏策略，指导 LLM 从 KG 中捕获结构模式。
对于给定的问题和主题实体，利用 Dijkstra 算法在 KG 的 k-hop 子图中找到通往答案实体的所有最短路径，作为弱监督集合。
随后进行监督微调，利用上述收集的路径，通过 SFT 训练 LLM，使其能够根据输入问题生成符合 KG 结构的关系路径。目标是最大化条件对数似然。
为了进一步提升路径生成的忠实度，作者构建了偏好数据（正样本和负样本）。负样本通过路径截断、实体-路径交换、关系删除等扰动方式生成。由于正负样本比例严重失衡（1:3），采用KTO进行训练，最大化生成的人类效用期望。
3.2 在线阶段
这个的阶段分为两个步骤，规划和实例化。规划阶段利用训练好的路径生成器，针对输入问题生成多个候选关系路径集合。此时的选择仅基于语义对齐，不施加约束。而实例化阶段从主题实体出发，沿着选定的关系路径在 KG 中进行遍历，检索实体并生成实例化的推理路径。
之后则利用推理-内省策略确保推理的可靠性。首先LLM 从预定义的约束库（如类型约束、多实体约束、显式/隐式时间约束、顺序约束）中提取问题包含的约束，通过LLM验证并判断实例化的推理路径是否满足提取的约束。
04
实验
4.1 实验设置
数据集：采用WebQuestionSP (WebQSP), Complex WebQuestions (CWQ), MetaQA，评价指标包括：Hit (H), Hits@1 (H@1), F1 score。主要对比基线模型包括以下三类：监督学习 (SL): 如 RoG, GNN-RAG，上下文学习:，如 ToG, DoG，以及混合学习，如 Interactive-KBQA, LightPROF。
4.2 主要结果
DP 在大多数数据集上取得了一致的 SOTA 性能。例如，在 CWQ 数据集上，DP 比 LightPROF 在H@1 指标上高出 16.5%。同样，相比于 Vanilla LLMs，DP 表现出更低的方差和更高的鲁棒性。DP 能够提升不同 LLM（如 LLaMA3.1, GPT-3.5, GPT-4o)的性能。
而消融实验表明 DP 的各个组件都至关重要, 去除KTO导致性能下降，证明了渐进式蒸馏对提升结构模式感知的作用。而去除内省模块导致性能下降最显著，证明了其在确保可靠性方面的关键作用。约束预定义比让 LLM 自动生成约束更有效，手动定义约束的移除导致了性能下滑。
在效率与实用性方面，相比于 ToG 和 DoG 等方法，DP 在回答问题时需要的 LLM 交互次数更少例如在 CWQ 上仅需 2.9 次，且 Token 消耗更低，显示了其高效利用先验知识的能力。
05
总结
本文提出了 DP 框架，通过审慎利用嵌入在知识图谱中的先验知识，实现了大语言模型的可信推理。
（1）离线阶段：通过渐进式知识蒸馏策略（SFT+KTO），使 LLM 能够生成忠实的关系路径。
（2）在线阶段：通过推理-内省策略，利用约束先验进行路径选择和验证，有效提升了回答的可靠性。
（3）局限性与展望：当前方法在垂直领域应用时仍依赖人工定义的约束。未来的工作将致力于研究自动提取和总结约束类型的方法，以减少人工投入并提高扩展性。
笔记整理：康家溱，东南大学，硕士研究生，研究方向为大语言模型后训练
论文链接：https://arxiv.org/abs/2505.15210
发表会议：NeurIPS 2025