hallucination

一直怕大模型幻觉，发现针对性harness约束能大大消除最近我在尝试让大语言模型（LLM）自动生成万字以上的长篇行业分析报告和技术调研文档。初看生成结果，文笔流畅、结构严谨，但当我进入人工审核环节时，却惊出一身冷汗：文中充斥着大量胡编乱造的数据、虚构的参考文献以及看似合理实则毫无根据的结论。

AI核心知识24——大语言模型之AI 幻觉（简洁且通俗易懂版）AI 幻觉 (Hallucination) 是大语言模型最著名、也是最让人头疼的一个缺陷。用一句最通俗的话来形容，就是：“一本正经地胡说八道”。

大模型之路

LLM幻觉（Hallucination）缓解技术综述与展望LLMs 中的幻觉问题（LLM 幻觉：现象剖析、影响与应对策略）对其可靠性与实用性构成了严重威胁。幻觉现象表现为模型生成的内容与事实严重不符，在医疗、金融、法律等对准确性要求极高的关键领域，可能引发误导性后果，因此，探寻有效的幻觉缓解技术成为当前人工智能研究的关键任务。

我是有底线的