AI in Harness(四)

Harness 的本质是什么?

Harness 就是通过工程的手段,让 LLM 一轮一轮地挑选合适的 Tools,在受控的情况下完成工作。

如何理解 Harness 各个模块

  • 为了能够告诉 LLM 有什么 tools,所以需要有 tools 管理模块。获取 tools 列表,把 tools 的名字和描述告诉模型。
  • Tools 需要在受控的情况使用,为 tools 增加权限管理模块。高风险操作需要用户同意。
  • 为了增强 tools 的能力,增加了 hook。类似 Java 的 AOP 切面,在工具调用前、调用后扩展 tools 能力。
  • 为了让 Agent 更好地驱动 LLM 完成复杂任务,提供了 todo write 工具和 task system,让 LLM 先出计划再干活。
  • 为了隔离子任务的上下文,避免污染主 Agent,设计了 subAgent,用干净的上下文执行子任务。
  • 有些场景需要多 tools 组合执行、遵循特定流程,为了把这类领域知识封装成"说明书",设计了 skill 系统。
  • 多轮调用以后可能造成上下文膨胀,设计了上下文压缩能力,缓解 LLM 注意力问题。
  • 为了让 LLM 能够记录关键信息并跨会话共享,增加了 Memory 模块。
  • Tools 列表、Skill 说明、Memory 内容,这些能力都需要通过 System prompt "告诉" LLM,所以设计了 System prompt 系统。
  • 大模型是远程调用,可能有各种各样的失败,需要处理 LLM 返回的各种异常,保证 Agent 能够从故障中恢复。
  • 在某些场景中 tools 可能需要执行很长时间,可以生成一个 background task 在后台运行,不阻塞主 Agent。
  • 结合后台任务和定时触发器,就能支持定时任务(Cron),让 Agent 按计划自主运行。
  • 为了提升工作效率,引入了多 teammate 协作机制。
  • 为了方便多 teammate 协作,规定了 teammate 之间的交流协议。
  • Teammate 完成工作后也不用闲着,可以去任务板自主领取新任务。
  • 多个 teammate 并行工作时为了不互相干扰,增加了 Worktree Isolation,让大家各干各的。

历史文章:

AI in Harness(一)

AI in Harness(二)

Ai in Harness(三)

相关推荐
鬼手点金5 分钟前
构建有效 Agent 的核心原则
java·人工智能·git·学习·自动化
全栈弄潮儿5 分钟前
Python实战第9期:文件操作
后端·python·编程语言
小星星_ios10 分钟前
从 3Blue1Brown 到 NumPy:手写一个神经网络训练 MNIST
人工智能·python·神经网络
神魔皆以血嗜10 分钟前
Java 实现简单状态机(订单状态流转)
java·后端
老牛日常随笔11 分钟前
Google把Android测试搬进AI对话:ARTEMIS如何用自然语言操作你的手机
android·人工智能·智能手机
信可维11 分钟前
AI 读 Word 表格总读错?先查合并单元格和表头这 3 处
开发语言·人工智能·c#·word·软件工程
Csvn14 分钟前
A/B 实验:85% 比 78% 好,居然不算赢?(R03)
人工智能·aigc·agent
zz在掘金3370819 分钟前
MongoDB 脚本速查
后端
随性而行36019 分钟前
企业微信 API 如何实现业务消息自动通知?接口应用场景解析
java·人工智能·后端·微信·机器人·企业微信
Mav20 分钟前
[个人学习记录]从零构建高性能 LLM 推理网关:长连接优雅停机(Graceful Drain)、K8s 探针联动与 Context 底层哲学
后端