本文是LLM系列文章，针对《Cognitive Mirage: A Review of Hallucinations in Large Language Models》的翻译。
认知海市蜃楼:大型语言模型中的幻觉研究综述
- 摘要
- [1 引言](#1 引言)
- [2 机制分析](#2 机制分析)
- [3 幻觉的分类](#3 幻觉的分类)
- [4 幻觉检测](#4 幻觉检测)
- [5 幻觉校正](#5 幻觉校正)
- [6 未来方向](#6 未来方向)
- [7 结论与愿景](#7 结论与愿景)
摘要
随着大型语言模型在人工智能领域的不断发展，文本生成系统容易受到一种令人担忧的现象的影响，这种现象被称为幻觉。在这项研究中，我们总结了最近对LLM幻觉的令人信服的见解。我们从各种文本生成任务中提出了一种新的幻觉分类，从而提供了理论见解，检测方法和改进方法。在此基础上，提出了今后的研究方向。我们的贡献有三个方面:(1)我们为文本生成任务中出现的幻觉提供了详细而完整的分类;(2)对LLM的幻觉现象进行理论分析，提供现有的检测和改进方法;(3)提出了未来可以发展的几个研究方向。由于幻觉引起了社会的极大关注，我们将继续更新相关的研究进展。
1 引言
2 机制分析
3 幻觉的分类
4 幻觉检测
5 幻觉校正
6 未来方向
7 结论与愿景
本文综述了LLM幻觉的新分类、理论见解、检测方法、校正方法和未来的研究方向。请注意，确保我们能够以负责任和有益的方式持续利用LLM至关重要，因此我们探索幻觉的原因和任务轴的分类，以分析潜在的改进方向。在未来，我们设想llm与外部知识库之间更有效的协同作用，从而形成一个可靠的双轮驱动互动系统。我们希望能够提出复杂高效的检测方法，为进一步提高llm的性能做出贡献。此外，我们希望社会对减轻幻觉的影响保持积极的态度。LLM对各个方面提出了创造性的纠正方法，将在广泛的应用场景中为人类提供可靠、安全的信息。