大模型底层逻辑：优势局限与天生短板

博主介绍

👨‍💻 了解博主：波仔椿

📖 人生箴言：技术落地，方为 AI 正道。

文章内容

上个月跟一个做律师的朋友吃饭，他跟我吐槽了一件事。

他接了一个劳动争议的案子，想先让AI帮忙梳理一下相关法律条文。AI哗哗哗给他输出了一大段，条理清晰、逻辑严密，连法条编号都精确到了第几条第几款。他一看，觉得挺靠谱，正准备拿去用，结果他助理多了个心眼，去法库里逐条核对了一下------好家伙，三条引用里两条压根不存在，完全是AI编的。

他当时跟我说："这玩意儿回答得太自信了，要不是查了一下，我真就信了。"

这件事让我想了很久。现在身边的人聊AI，态度基本是两个极端：要么觉得AI无所不能，写文案、做PPT、写代码，人类马上就要被替代了；要么觉得AI就是个高级点儿的搜索引擎，聊胜于无，用不用差别不大。

两种看法都不对。

我后来想了很久才想明白这件事------问题不在于AI强不强，在于我们根本不知道它"哪儿强、哪儿弱"，就像一个你不太熟的同事，你既不知道他的拿手活，也不知道他会在什么事上掉链子。

所以今天这篇文章，我想聊聊大模型底层的那套东西：它凭什么这么能打，又有哪些毛病是娘胎里带的、怎么都改不掉的。

一、四个拿手活：大模型凭什么这么快进入普通人的生活

我有个做运营的同事，以前她的电脑桌面上摆满了各种软件图标：翻译用这个、修图用那个、写文案又得切另一个。她跟我抱怨过，学这些工具比干活本身还累。

但这一年多，她桌面变干净了。不是她不上进了------是她发现大部分事，一个对话框就搞定了。

这事让我开始认真琢磨：同一个AI工具，怎么能同时干翻译、修图、写文案这些完全不搭边的事？传统工具可都是各管各的。答案其实在大模型底层那套"通用学习"的机制上。

说白了，传统AI工具是"一招鲜"，专门为某一个任务训练的，换个场景就废了。大模型不一样，它是个"通才"------它不是学怎么写文案、怎么修照片的，它是学"怎么理解人的意思"的。你让它干嘛，它就去匹配对应的能力。

除了"什么都能干"，大模型还有一个让我特别服气的地方------进化速度。

我记得去年年初第一次用某个国产大模型，让它帮我写一段产品介绍，出来的东西干巴巴的，翻来覆去就是那几句套话。我当时心想，也就这样了。结果半年后再用，同样的需求，它开始会用比喻了，会分析目标用户了，甚至还主动问我"面向的是企业客户还是个人用户"。

你如果一直不用、隔了半年再去试，会有一种"这已经不是同一个东西了"的感觉。传统的软件，一年更新一个大版本就算勤快了，大模型是每天都在进步。

上次我表姐问我一个生物方面的问题------她班上一个学生问的，关于什么酶的作用机制，她一个语文老师怎么答得上来。她把问题丢给AI，AI从酶的化学结构讲到人体代谢路径，从头到尾逻辑自洽，还自动把专业术语翻译成了初中生能听懂的话。

她跟我说："我感觉我面前站着一个生物学博士。"

这件事让我想到大模型的第三个核心优势------知识储备。它不是记性好，是"读"得多。

对比维度	传统工具	大模型
使用方式	一个工具干一件事	一个对话框解决多种需求
学习门槛	每个软件都要学操作	会说人话就能用
迭代速度	半年到一年一个大版本	几周到几个月就有明显变化
知识范围	限定在预设领域	覆盖几乎所有公开知识领域
创作方式	模板填充，机械拼接	理解意图后自由生成

至于第四个优势------高效创作，说实话，写这篇文章本身就是例子。以前写一篇这个长度的技术文章，我得先列提纲、查资料、打草稿、反复改，没个三五天根本出不来。现在呢？我脑子里有思路，剩下的组织、润色、查漏补缺，AI能帮我省掉至少七成的"搬砖时间"。

但别急着下结论------优势讲完了，接下来才是重点。正因为大模型这套底层机制，它也带着一堆"治不好的毛病"。

二、四个治不好的毛病：大模型身上那些改不掉的"出厂设定"

继续说我那个律师朋友的事。

AI给他编了两条不存在的法条，这件事让他差点在客户面前翻车。他后来问我："为什么它能编得那么像？连措辞、句式、编号格式都跟真法条一模一样。"

答案其实不复杂：大模型的工作方式决定了它一定会出现幻觉。

我后来终于搞懂了一件事：大模型不是"思考"出答案，是"算"出答案。它看着你提的问题，在脑子里过一遍------"根据我的训练数据，下一个字大概率是什么？再下一个字呢？"它追求的不是"说得对"，是"说得顺"。

我把四个最常见的毛病拉了个表：

毛病	表现	我身边的真实例子
AI幻觉	自信地输出不存在的信息	律师朋友遇到的法条编造
逻辑断裂	复杂推理容易翻车	让AI算一笔涉及多重折扣的订单，中间步骤直接跳错
知识滞后	不知道训练截止后发生的事	问它上个月的某政策变化，它一本正经回答旧政策
价值观缺失	缺乏人情味和道德判断	让它评价一首表达丧子之痛的诗，它从"韵律工整度"开始分析

第二个毛病------逻辑推理薄弱------我上个月刚踩过坑。我给AI发了一组销售数据，让它分析"为什么第二季度华北区业绩下滑"。它给我的分析看起来头头是道：市场竞争加剧、客户预算缩减、产品定价偏高......每一条都有模有样。

但我实际去翻了一下原始数据，发现华北区Q2有一个大客户合同正好在季度末才签下来，只是没计入当期统计。等合同入账后，华北区的数据是增长的。AI根本没发现这个问题，它只是把所有"可能导致业绩下滑"的原因拼凑了一遍。

后来我就养成了一个习惯------AI给的分析结论，我会先反问一句："你凭什么这么说？"它答不上来的时候，大概率就是在"造句"而不是在"推理"。

第三个问题，知识滞后性，是最容易让人掉以轻心的。有次我一个朋友问我："上周北京新出的那条购房政策，影响大不大？"她很自然地打开AI去问，AI也很自然地回答了一通------但回答的是半年前的旧政策。如果你不了解这个领域，根本看不出问题。

第四个短板------价值观判断的缺失------听起来很抽象，我说个具体的你就明白了。之前网上流传过一个测试：让AI评价一首描述丧亲之痛的诗。人类的反应是"心里一紧、鼻子一酸"，AI的反应是"这首诗运用了比喻和排比的修辞手法，情感表达较为充分"。不是AI冷血，是它根本没有"悲伤"这个概念，它只能识别文字模式。

三、幻觉这件事：为什么AI会"一本正经地胡说八道"

在四个毛病里，幻觉是最普遍、也最容易让人翻车的。我想单独拿出来多聊几句。

很多人不理解：AI不是号称读了全网的知识吗？为什么还会编造不存在的东西？

这里有一个关键认知------大模型的工作方式，跟我们人类完全不一样。

你问我"昨天中午吃了什么"，我会回忆一下，然后告诉你"吃的是面条"。我会调取真实的记忆，哪怕记不清，也不会凭空编一个"吃了满汉全席"。

大模型不是这样的。它没有"记忆"这回事。你问它一个问题，它做的事是：看你的问题，然后在海量的训练数据中，计算"按照人类的语言习惯，下面最应该接什么词"。

举个例子。你问它："请引用《民法典》第1043条。"

它如果训练数据里刚好有这一条的原文，那它就输出原文。但如果它的训练数据里没有这一条，或者数据质量不好------它不会说"我不知道"，它会"造"一条出来。因为从概率上讲，"看起来像法条的句子"比"我不知道"更符合它学到的回答模式。
#mermaid-svg-AGgGHQy75kMoLGdm{font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-AGgGHQy75kMoLGdm .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-AGgGHQy75kMoLGdm .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-AGgGHQy75kMoLGdm .error-icon{fill:#552222;}#mermaid-svg-AGgGHQy75kMoLGdm .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-AGgGHQy75kMoLGdm .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-AGgGHQy75kMoLGdm .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-AGgGHQy75kMoLGdm .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-AGgGHQy75kMoLGdm .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-AGgGHQy75kMoLGdm .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-AGgGHQy75kMoLGdm .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-AGgGHQy75kMoLGdm .marker{fill:#333333;stroke:#333333;}#mermaid-svg-AGgGHQy75kMoLGdm .marker.cross{stroke:#333333;}#mermaid-svg-AGgGHQy75kMoLGdm svg{font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-AGgGHQy75kMoLGdm p{margin:0;}#mermaid-svg-AGgGHQy75kMoLGdm .label{font-family:"trebuchet ms",verdana,arial,sans-serif;color:#333;}#mermaid-svg-AGgGHQy75kMoLGdm .cluster-label text{fill:#333;}#mermaid-svg-AGgGHQy75kMoLGdm .cluster-label span{color:#333;}#mermaid-svg-AGgGHQy75kMoLGdm .cluster-label span p{background-color:transparent;}#mermaid-svg-AGgGHQy75kMoLGdm .label text,#mermaid-svg-AGgGHQy75kMoLGdm span{fill:#333;color:#333;}#mermaid-svg-AGgGHQy75kMoLGdm .node rect,#mermaid-svg-AGgGHQy75kMoLGdm .node circle,#mermaid-svg-AGgGHQy75kMoLGdm .node ellipse,#mermaid-svg-AGgGHQy75kMoLGdm .node polygon,#mermaid-svg-AGgGHQy75kMoLGdm .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-AGgGHQy75kMoLGdm .rough-node .label text,#mermaid-svg-AGgGHQy75kMoLGdm .node .label text,#mermaid-svg-AGgGHQy75kMoLGdm .image-shape .label,#mermaid-svg-AGgGHQy75kMoLGdm .icon-shape .label{text-anchor:middle;}#mermaid-svg-AGgGHQy75kMoLGdm .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-AGgGHQy75kMoLGdm .rough-node .label,#mermaid-svg-AGgGHQy75kMoLGdm .node .label,#mermaid-svg-AGgGHQy75kMoLGdm .image-shape .label,#mermaid-svg-AGgGHQy75kMoLGdm .icon-shape .label{text-align:center;}#mermaid-svg-AGgGHQy75kMoLGdm .node.clickable{cursor:pointer;}#mermaid-svg-AGgGHQy75kMoLGdm .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-AGgGHQy75kMoLGdm .arrowheadPath{fill:#333333;}#mermaid-svg-AGgGHQy75kMoLGdm .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-AGgGHQy75kMoLGdm .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-AGgGHQy75kMoLGdm .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-AGgGHQy75kMoLGdm .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-AGgGHQy75kMoLGdm .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-AGgGHQy75kMoLGdm .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-AGgGHQy75kMoLGdm .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-AGgGHQy75kMoLGdm .cluster text{fill:#333;}#mermaid-svg-AGgGHQy75kMoLGdm .cluster span{color:#333;}#mermaid-svg-AGgGHQy75kMoLGdm div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-AGgGHQy75kMoLGdm .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-AGgGHQy75kMoLGdm rect.text{fill:none;stroke-width:0;}#mermaid-svg-AGgGHQy75kMoLGdm .icon-shape,#mermaid-svg-AGgGHQy75kMoLGdm .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-AGgGHQy75kMoLGdm .icon-shape p,#mermaid-svg-AGgGHQy75kMoLGdm .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-AGgGHQy75kMoLGdm .icon-shape .label rect,#mermaid-svg-AGgGHQy75kMoLGdm .image-shape .label rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-AGgGHQy75kMoLGdm .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-AGgGHQy75kMoLGdm .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-AGgGHQy75kMoLGdm :root{--mermaid-font-family:"trebuchet ms",verdana,arial,sans-serif;} 有
没有或不足
用户提问
训练数据中

是否有准确信息?
调用真实数据

输出准确回答
启动概率补全

怎么说才通顺
补齐缺失信息
生成表面合理

但实质虚假的内容
AI幻觉
可靠输出

这个机制注定了，幻觉是大模型从娘胎里带来的毛病，不可能彻底根治------当然，不是完全没招。

目前最有效的方法叫RAG。名字很唬人，但道理不难------给AI配一本"标准答案书"。你问它问题，它先不靠自己那套概率算法瞎猜，而是先去翻这本书，找到相关内容，再基于书上的内容来回答。

这就好比，你问一个刚入职的新同事"公司的报销流程是什么"，与其让他凭感觉猜，不如给他一本员工手册让他照着说。

你想想这个区别：没配RAG的AI是在"裸考"------全凭训练数据里记住的东西；配了RAG的AI等于"开卷考试"------可以翻参考资料。哪个更靠谱，不用我说。

除了RAG，还有几个常用的手段：

垂直场景微调：给通用大模型喂大量某个行业的真实数据，就像给一个"全科医生"补了心脏外科的专项训练。
人工对齐：让人类标注员告诉AI哪些是对的、哪些是错的，反复纠正。
主动承认不知道：现在主流大模型遇到确实不清楚的问题，会直接说"暂无相关信息"，不再硬编。

不过丑话说在前头------这些方法是"降低"幻觉概率，不是"消灭"幻觉。你用AI的时候，永远要保留一分怀疑，尤其是涉及事实、数据、条款的内容。

四、说到底，AI是个工具------别神化，也别小瞧

聊完优势和短板，我想说一个最根本的认知------很多人用不好AI，不是技术问题，是定位问题。

要么觉得AI什么都能干，扔给它一个模糊的需求，指望它给出完美答案，结果发现到处都是坑，转头就说"AI不过如此"。要么觉得AI就是个花架子，PPT做得还行，正经事一件干不了，从来不去试。

这两种态度，说到底是同一个毛病------没搞清楚人和AI的分工。

工作类型	谁更适合	为什么
文案初稿、会议纪要整理	AI	机械重复，耗时但不需要深度思考
数据筛选、信息检索	AI	速度快、覆盖面广
最终决策、核心判断	人	需要担责任、需要综合考量
原创创意、战略规划	人	需要跨领域联想和突破性思维
情感沟通、价值判断	人	需要共情、需要道德底线
代码初稿、翻译草稿	AI	效率碾压，质量尚可
终稿审核、专业校验	人	需要专业经验做最后把关

我现在的习惯是：让AI干"第一遍"------初稿、初筛、初排------自己干"最后一遍"------审核、把关、定调。这样一来，AI帮我省掉了最磨人的"搬砖"环节，我保留了最核心的"拍板"权力。

说一个我自己的变化。

以前看到AI出的内容，尤其是那种看起来特别专业、特别有逻辑的，我会下意识觉得"应该没问题"。但经历了律师朋友那件事、经历了数据分析翻车、经历了政策信息滞后之后，我现在养成了一个条件反射------AI给的任何内容，只要涉及事实判断，我先默认它是"初稿"，必须交叉验证一遍才敢用。

这不是不信任AI。恰恰相反，我觉得这才是真正用好了AI------你知道它的边界在哪，你就不会在边界外头摔跟头。

五、写在最后

这篇文章聊了很多"AI的毛病"，可能有人会觉得我是在唱衰AI。

不是的。

恰恰因为我每天都在用AI，我才想说这些。一个工具，你越了解它的短板，你越能用好它的长处。怕的不是工具有毛病，怕的是你不知道它有毛病，然后在最关键的地方翻了车。

大模型这波浪潮，跟之前任何一次技术革命都不一样------它门槛太低了。一个50多岁的普通中年人，不用学任何操作，对着手机说句话就能用。这是好事，但也意味着，更多的人会在"不了解"的情况下使用它。

我希望你看完这篇文章后，下次打开AI对话框的时候，脑子里不再是"它能帮我做什么"，而是多了一个问题："它可能会在什么地方出错？"

最后我想说------AI不缺崇拜者，也不缺唱衰者，它缺的是愿意花时间搞清楚它"到底是个什么东西"的人。你读到这里，已经是其中之一了。

精彩推荐

🔎GPT-1与BERT：初代AI大模型的双雄争霸

🔎Transformer：AI大模型时代的核心技术革命

🔎大模型的技术基石：深度学习如何颠覆传统AI

🔎AI大模型：从百年积淀到终极跨越

🔎大模型落地全景：普通人生活中无处不在的AI应用