AI幻觉没法彻底消除。这不是技术不够好,是原理决定的。大模型就是个概率预测机器,每一步都在猜"下一个词最可能是什么"。它不知道的时候不会停下来,会猜一个听起来最合理的。所以别想着消灭幻觉,要想的是怎么把它关在笼子里,让它在你能看见、能验证的范围内活动。
下面五件事,从最好上手的开始说。
一、给它材料,别让它凭记忆答
你问AI公司内部制度、某篇论文的细节、某个产品的参数,它不知道就会编。不是它坏,是它被训练成了"必须给出答案"的样子。
办法很简单:把材料喂给它,让它照着你给的材料答。这叫开卷考试。你不让它闭卷考,它就没法瞎编。
有研究数据:把检索到的证据塞给模型,幻觉率能从51%降到20%。你不用懂技术,做重要的事时把相关文档、网页、数据一起丢给AI,再加一句:"只根据我提供的材料回答,材料里没有的就说没有。"
这一句话比什么高级参数都管用。
二、温度调低,别让它太有创造力
你用的AI工具设置里要是有"Temperature"(温度),它管的是模型选词的随机程度。
温度高,模型爱冒险,挑不常见的词,看着有创意,也更容易胡编。温度低调保守,挑最稳妥、最常见的说法。
做事实性任务,温度调到0到0.3。有个反直觉的地方:温度调到0也消灭不了幻觉,只是让幻觉稳定复现------错了也每次都错得一模一样。好处是你排查方便,同一个问题多问几遍,答案稳定你又验证不了,那它多半是真不知道,在硬撑。
三、让它把推理过程写出来
你直接问"这个数据对吗",它可能甩个答案给你就完事。你换个说法:"一步一步说,你是怎么得出这个结论的",效果完全不一样。
这叫思维链。道理不复杂:推理过程摊在纸面上,哪一步跳了、哪一步编了,你自己看得见。模型也没法从问题直接滑到一个编好的答案上,它得先走过中间那些步骤。
有实验显示,配合"自一致性"(让它换几种方式推几遍,看结果收不收敛),幻觉率能降10%到40%。你不用记这些术语,问关键问题时加一句"先别给答案,把推理过程列出来"就行。
四、先查再答,别先答再编
这招要多做一个动作:确认你用的AI开没开联网搜索,或者接没接知识库。
区别在哪:不联网的AI从训练数据里回忆事实,回忆不起来就编。训练数据是几个月甚至几年前的东西,它不知道的事比你想的多。联网或接知识库的AI先去查,查到什么说什么,查不到就承认。
所以问有明确事实答案的问题------某公司最新财报、某篇论文的结论、某个法规的条款------先看联网或检索开没开。没开,或者你不确定,就别信它给的数字和引用。
还有个细节:AI给了引用来源,也点开看一眼。研究发现AI经常"引用存在但支持不了那句话"------标了个链接,链接里的内容跟它说的不是一回事。引用不是护身符,引用里的原文才是。
五、接受它不知道
大多数人被幻觉坑,不是因为AI太笨,是因为人太懒。AI用流畅、自信、结构清晰的语气给个答案,人的大脑自动就把它当成核实过的信息了。但它没有。
真正管用的不在技术里,在习惯里:把AI的输出当初稿,不是终稿。事实性的东西自己核一遍。数字、引用、人名、日期、法条,这些是幻觉重灾区,一个都别跳过。
AI最危险的时候,不是它说"我不知道",是它用最漂亮的排版给你一个错答案。你没法让AI不犯错,但可以让它犯的错在你这里过不去。