LLM 和 Agent 有什么区别?
面试官一般这么问:"你们项目里用的是 LLM 直接调用还是 Agent?为什么这么选?"或者"Agent 比 LLM 多了什么?如果让你从零设计一个 Agent,你会怎么做?"
LLM 是什么?
LLM(大语言模型)本质上就是一个****条件概率模型****,给它一段输入 token,它预测下一个 token 最可能是什么。
可以把它当成一个无状态的函数:输入 Prompt,输出文本。每次调用都是独立的,没有记忆,没有状态,对外部世界一无所知。
LLM 的四大核心局限(短板)
这四条,面试的时候一定要能展开说,不能只背关键词:
① 只会说不会做------你问它今天天气怎么样,它能告诉你"你可以去天气 App 查一下",但它自己不会去查。
② 没有记忆------单次对话依靠上下文窗口承载信息,内容超限就会遗忘;默认状态下不同会话之间信息互不相通。
③ 知识截止------训练数据有截止日期,截至日期后发生的事它不知道。
④ 不会规划------你让它"做一份竞品分析",它只会线性回答,不会自己拆解成"先搜集资料、再逐个分析、再对比价格"这样的步骤。
Agent 是什么?
一句话:Agent = LLM + 工具 + 记忆 + 规划,形成「感知→规划→行动→反馈→修正」的闭环,在循环中自主完成目标任务。
Agent 主要由四个部分组成:大语言模型相当于它的大脑,用来理解意图、推理判断;规划模块负责拆解任务,步骤排序;记忆模块用来存储短期记忆和长期记忆;工具模块就是它的手脚,可以去调用接口、查数据库、执行代码等,完成实际操作。
一个例子说清楚本质区别
任务 :帮我查一下明天北京的天气,如果下雨就取消我日历里的跑步计划。
| 角色 | 实际行为 |
|---|---|
| LLM | "您可以打开天气 App 查询北京明天天气,如果降雨概率超过 60% 建议取消户外运动,可以在日历 App 中删除该日程..." |
| Agent | 1. 调用天气 API → 明天北京中雨 2. 调用日历 API → 找到明天7:00跑步计划 3. 调用日历 API → 删除该计划 4. 回复:"明天北京有雨,已为您取消跑步计划。" |
LLM 告诉你怎么做,Agent 直接帮你做完。 这就是本质区别。

图1:LLM vs Agent 对比图
面试加分点:Agent 的完整四模块
面试时别只说"Agent 就是 LLM 加工具",要展开讲这四个模块各自的作用,以及它们怎么在循环中协作。