【Agent智能体2 | Agent的自主性程度】

声明:本篇博客是以吴恩达的【Agent智能体】教程为基础,并对其中的内容做了笔记整理以及个人收获的总结。

Agent的自主性程度

网上有很多关于"哪些词能真正代表智能体"这样的争论,吴恩达在课程中说到与其争论哪些词都够真正的代表智能体 ,不如承认智能体可以有不同程度的智能体性 。这也是Agentic这个词的由来,Agentic(智能体性)是形容词,而不是一个名词。

这个图展示了较低自主性 (Less autonomous)以及 较高自主性 (More autonomous)的对比

  • 较低自主性 (Less autonomous)
    • 上半部分展示的是一个线性且固定 的链式工作流:用户输入提示词 →\rightarrow→ LLM 生成网页搜索词 →\rightarrow→ 系统执行网页搜索 →\rightarrow→ 系统抓取网页内容 →\rightarrow→ LLM 根据抓取的内容撰写文章。
    • 这个流程中,LLM 就像流水线上的工人。程序的每一步都是被开发者事先硬编码规定好的,LLM 只能在特定的节点被动接收指令并执行固定任务。
  • 较高自主性 (More autonomous)
    • 下半部分展示的是一个更接近智能体(Agent)模式的工作流,赋予了 LLM 决策权和反思能力。
      • 自主选择工具(Tools):
        • 在第一步"搜索网页"时,LLM有一个工具箱 (包含了网页搜索、新闻搜索、arXiv学术论文搜索),LLM 可以自主决定调用哪个工具来获取最好的信息
        • 在第二步"抓取最佳来源"时,LLM 再次利用工具箱 (网页抓取、PDF转文本),自主评估并挑选出5个最相关的来源进行深度解析,而不是盲目抓取所有结果。
      • 自我反思与迭代(Reflection):
        • LLM 在写完初稿(Write essay draft)后,没有直接输出结果,而是增加了一个"反思并改进初稿(Reflect and improve draft)"的环节。LLM 会自我审视文章的质量,并进行修改润色,最终输出成品。
          总结:
  • 我们可以看到有些智能体的自主性较低,执行一些列的线性步骤,通常是由程序员预先设定好的
  • 有些更有自主性,可以信任大语言模型做更多决策,具体执行的步骤序列甚至由大语言摸型快定,而不是由程序员预先设定

总结

这个图从左到右代表了 AI 系统的自主能力从低到高的三个发展阶段:

  • 较低自主性 (Less autonomous)
    这个阶段的 AI 系统更像是传统的软件程序,缺乏真正的决策权。
    • 所有步骤预先设定 (All steps predetermined): 整个工作流程(Pipeline)是线性的、固定的,由开发者提前规划好。
    • 工具使用硬编码 (All tool use hard coded): 在哪个环节调用什么工具(比如搜索、翻译)是被人类写死在代码里的,AI 无法改变。
    • 自主性仅限文本生成 (Autonomy is in text generation): AI 在这里的唯一作用就是在流程的固定节点上,根据给定的上下文生成一段文本,它不负责流程的控制。
  • 半自主 (Semi-autonomous)
    这个阶段的 AI 开始拥有"大脑"的属性,具备一定的逻辑规划和调度能力。
    • 能做部分决策、选择工具 (Agent can make some decisions, choose tools): 面对一个任务,AI 可以自己思考并决定接下来该怎么做,比如判断当前需要搜索网页还是查询数据库。
    • 工具是预设的 (All tools predefined): 它的局限性在于,它只能在人类事先提供好的"工具箱"里进行选择,不能超出这个范围。
  • 高度自主 (Highly autonomous)
    这是目前 AI 智能体追求的高级形态,具备极强的独立解决未知问题的能力。
    • 自主做出大量决策 (Agent makes many decisions autonomously): 面对复杂、长期的目标,AI 能够自行拆解任务、制定多步计划、执行、反思纠错,并在遇到障碍时动态调整策略。
    • 能即时创建新工具 (Can create new tools on the fly): 这是最核心的区别。如果人类给的工具箱里没有合适的工具,高度自主的 AI 能够根据需求现场编写一段代码来创造一个新工具,并立刻使用它来解决当前的问题。

通过这篇文章,我们能够了解到自主性高的智能体是什么样的:调用工具、拆解任务、制定计划、反思纠错,甚至能创造新工具!了解了这些,我们以后在使用 AI 时,也不应仅仅把它当成一个单步的'问答盲盒',而应该尝试给它更多的空间,激发它更高的自主性

如果这篇文章对你有帮助,欢迎点赞、评论、关注、收藏。你们的支持是我前进的动力!

相关推荐
tellmewhoisi41 分钟前
深度学习0:数学知识:正态分布4(坐标变换的缩放比例(面积微元变换))
人工智能·深度学习
布吉岛的石头1 小时前
Java 程序员第 50 阶段14:灾难性遗忘与回放
人工智能·深度学习·transformer
不吃鱼的羊1 小时前
诊断27解锁dll文件制作(Visual Stdio无法安装版)
人工智能
后端小肥肠1 小时前
漫画工坊上线用户破百:公众号漫画从需求到变现全复盘
人工智能·aigc·agent
赛博山人2 小时前
字节跳动下线扣子企业版,团队已并入豆包
人工智能
isboyjc2 小时前
Lomo Agent:面向创作型、持续协作 Agent 的架构设计与工程实践
人工智能·架构·agent
小蒋观天下2 小时前
码率、I帧间隔、智能编码冲突:H.265+导致AI取流解码异常
人工智能
roman_日积跬步-终至千里3 小时前
AI 能让一个人成为团队吗?从数据中台到 OPC,重新理解软件工程能力
大数据·人工智能·软件工程
在所不辞兄3 小时前
为什么神经网络在训练集损失已接近零后继续训练,测试性能仍可能继续提升,而不是单纯地越来越过拟合?
人工智能·深度学习·神经网络·机器学习·智能仿真