AI in Harness(四)

Harness 的本质是什么?

Harness 就是通过工程的手段,让 LLM 一轮一轮地挑选合适的 Tools,在受控的情况下完成工作。

如何理解 Harness 各个模块

  • 为了能够告诉 LLM 有什么 tools,所以需要有 tools 管理模块。获取 tools 列表,把 tools 的名字和描述告诉模型。
  • Tools 需要在受控的情况使用,为 tools 增加权限管理模块。高风险操作需要用户同意。
  • 为了增强 tools 的能力,增加了 hook。类似 Java 的 AOP 切面,在工具调用前、调用后扩展 tools 能力。
  • 为了让 Agent 更好地驱动 LLM 完成复杂任务,提供了 todo write 工具和 task system,让 LLM 先出计划再干活。
  • 为了隔离子任务的上下文,避免污染主 Agent,设计了 subAgent,用干净的上下文执行子任务。
  • 有些场景需要多 tools 组合执行、遵循特定流程,为了把这类领域知识封装成"说明书",设计了 skill 系统。
  • 多轮调用以后可能造成上下文膨胀,设计了上下文压缩能力,缓解 LLM 注意力问题。
  • 为了让 LLM 能够记录关键信息并跨会话共享,增加了 Memory 模块。
  • Tools 列表、Skill 说明、Memory 内容,这些能力都需要通过 System prompt "告诉" LLM,所以设计了 System prompt 系统。
  • 大模型是远程调用,可能有各种各样的失败,需要处理 LLM 返回的各种异常,保证 Agent 能够从故障中恢复。
  • 在某些场景中 tools 可能需要执行很长时间,可以生成一个 background task 在后台运行,不阻塞主 Agent。
  • 结合后台任务和定时触发器,就能支持定时任务(Cron),让 Agent 按计划自主运行。
  • 为了提升工作效率,引入了多 teammate 协作机制。
  • 为了方便多 teammate 协作,规定了 teammate 之间的交流协议。
  • Teammate 完成工作后也不用闲着,可以去任务板自主领取新任务。
  • 多个 teammate 并行工作时为了不互相干扰,增加了 Worktree Isolation,让大家各干各的。

历史文章:

AI in Harness(一)

AI in Harness(二)

Ai in Harness(三)

相关推荐
chaojihaomai5 小时前
AI电商商品图生成中的材质保真问题——扩散模型重建优先级分析与锁定式方案
人工智能·材质
大模型探索者7 小时前
2026 企业智能体平台选型指南:从通用到行业深耕,怎么选?
大数据·人工智能
深圳行云创新7 小时前
北极星知识图谱平台|太空越来越“拥挤”,知识图谱如何预测空间碎片碰撞风险?
人工智能·知识图谱
Am-Chestnuts7 小时前
国产AI多轮对话归档与多格式导出实践
人工智能·word
workflower8 小时前
装备企业的 AI 路线图
人工智能·深度学习·机器学习·设计模式·机器人
2601_953720829 小时前
【计算机毕业设计】基于Spring Boot的心理健康咨询与评测系统的设计与实现
java·spring boot·后端
AKAMAI9 小时前
Linode接口及默认防火墙现已全面开放使用
人工智能·云计算
前端开发江鸟9 小时前
RAG 回答错了,问题到底出在召回、重排,还是生成?
人工智能
美狐美颜SDK开放平台9 小时前
直播app开发如何实现主播级美颜效果?美颜sdk开发方案详解
人工智能·音视频·美颜sdk·视频美颜sdk·美颜api
东方小月10 小时前
从零开发一个 Coding Agent(四):使用状态机校验大模型事件流
前端·人工智能·后端