Agent 学习笔记 15:Agent 怎样响应事件与中途打断?

1、外部事件怎样唤醒Agent?

之前提到过:当模型固定时,提升Agent任务表现最主要的系统手段就是重新定义 或扩展观察空间和动作空间 。模态决定观察和行动的形式,可以是只读文本、能听见声音看见屏幕,也能是只输出token或能发声、点击、驱动关节;触发时机决定观察和动作的节奏,观察选择Agent主动去取还是世界主动推来,动作是必须一个回合做完还是可以跨回合、被打断等。

早期工具调用接口通常按照同步轮次 组织消息,提问后面跟着回答,工具调用之后先补齐结果,再继续推理,但是这种模式并不适合真实的应用。因此,事件驱动的异步架构就被用来响应随时可能到达的外部事件。

将异步范式应用于LLM需要检查模型和API是否支持这种消息时序,因为有的接口要求先补齐工具结果才能继续(要加事件队列和其他东西使其兼容异步方式),有的允许工具挂起、模型继续工作并在生成过程中接受用户更新(原生异步协议)。
事件驱动异步Agent的架构

上图说明在事件队列里出现高优先级的内容就会被优先处理。下面看一下在这方面做得较好的开源框架OpenClaw是怎么搞的:

(1)OpenClaw的事件驱动机制

它是通过网关控制平面接收多渠道消息并路由到Agent运行时,具体提供了有以下机制:

Hooks (事件钩子):响应Agent生命周期中的事件,例如会话创建、重置等;

Cron(定时调度器):按照cron表达式执行周期性任务(如 0 9 * * 5 代表每周五上午 9 点->分钟 小时 日 月 星期);

Heartbeat(心跳守护进程):每隔N分钟唤醒一次Agent,检查是否有需要关注的事项。

这样的设计也存在一个短板,对于内置渠道之外的第三方事件源例如一封新邮件到达、一个紧急通知需要立即处理等,他没有及时接入的通道,只能被动依赖下一个cron/heartbeat周期才会察觉。

(2)事件触发工具

这是外部事件驱动Agent行动的入口,如果没有这个工具Agent只能连续循环思考、调用工具,最终输出一个结果。常见的事件触发工具有:

①定时器 :处理依赖物理时间的事件,比如说你打了一个电话但不在对面的工作时间内,那么就需要在下一个工作时间再尝试拨打。这里还分成一次性定时器 (用于有明确时间点的任务,例如现在是周日,用户要求给某银行打电话问办理进展,Agent设置下周一早上十点致电银行,定时器触发后自动拨打。有点类似设置单次提醒的⏰️)循环定时器(用于周期性任务,比如十分钟就检查一次状态。类似于设置的定时久坐提醒)

②后台任务监控 :处理来自异步执行的工具或命令行任务的事件,一些命令行任务需要长时间在后台执行,Agent需要监控执行进展。CC引入monitor工具允许Agent监控命令行的新增输出或者包含特定关键词的输出(正则匹配表达式)。

③外部事件通道 :把新邮件到达、API回调、IM消息等外部事件实时推送给Agent(channel机制可解决OpenClaw的实时性问题)

(3)用户沟通工具

除了文本方式与用户沟通,越来越多的Agent也具备多模态沟通能力,例如发送结构化卡片消息、友好提醒邮件。还有Agent尝试使用生成式UI使用HTML等产生交互式界面。

Agent的响应不应局限于单一渠道,通知机制同时也是用户召回机制。消息发送扩展到即时通讯、短信、邮件等,Agent根据紧急程度、用户状态、内容性质等综合决定渠道的选择,保证不错过重要的消息也不重复打扰。

对于长时间运行的任务,Agent需要在完成时主动通知用户(codex完成任务后"滴一声")召回用户的注意力。

2、工具在后台运行时,Agent怎样处理新消息?

前面我们也说到异步实现要不就是原生异步要不就是使用兼容方案。

(1)不支持原生异步时的兼容方案

案例:假设 Agent 正在帮用户起草一封邮件(工具调用:搜索联系人信息),搜索还没返回结果时,用户突然说"等一 下,先帮我查一下明天的天气"。如果接口要求未完成的工具调用先获得对应结果,Agent 就无法直接带着悬空调用处理这条新消息。这里的限制来自所选协议与模型组合,并非所有 LLM 都必须遵循的规律。

兼容方案的核心就是在没有打断发生的常态下,让LLM看到标准的同步轨迹,只有在打断时才插入占位符来修复格式。下面是几个规则:

①及时记录 API已完成的assistant 消息和工具调用项;

②工具调用完成时才记录 tool result。执行中轨迹处于"部分完成"状态;

③工具执行中的打断需要占位符。为未完成的工具生成占位符响应(如"工具正在后台执行,请优先处理新事件"),追加打断事件,重新调用 LLM;

④在没有原生 steering (中途引导,这个并不常见需要传输协议例如websocket支持)或受支持的中途续接接口时,取消未完成的生成,保留已经确认完成的消息和工具状态,将新事件追加后重新请求。不能假定半截输出或隐藏推理可以作为合法前缀任意回灌;

⑤非打断事件进入队列等待批处理。当前周期完成后才一次性追加。

(2)模型原生异步

GPT-6 Astra支持异步工具调用和回合中途引导。

异步工具调用将"发起行动"和"获得结果"分开。Agent发起耗时查询后,可以继续推理、调用其他工具,或处理不依赖查询结果的部分。

回合中途引导让用户可以在任务进行中修正方向。这就是前面提到的steering,Agent还在思考或组织回答时,用户可以追加要求,系统保留已完成的工作,把新约束带入后续处理,使Agent能够在同一次任务中调整计划。

3、用户说停止后Agent怎么取消和恢复?

(1)事件处理机制

先看一下事件的处理机制:传统同步接口实现中,事件在每轮循环的边界被消费,到达一个安全点(一段推理结束、一次工具返回)再处理;原生异步则允许在模型仍在思考或输出时接收新要求,由系统选择合适的时机继续处理。

①事件的结构化建模

通用Agent面对的输入不只来自用户一人,这要求将每个输入都建模为包含丰富语义的结构化事件:来源 (谁)、渠道 (方式)、内容 (什么)、上下文(背景),下面是一个关于客户退款请求邮件的例子,具体的结构化事件形式:

只有当这些维度被清晰地建模为结构化事件,Agent 才能在多方通信中保持清晰的认知,避免将用户输入误当成工具结果,或将藏有指令的工具结果误认为用户指令而导致提示注入。

②事件循环的三种处理策略
异步事件处理的三种策略

取消式处理 :用于紧急事件,本质是为紧急事件提前制造一个安全点。主动中断当前步骤,把这一刻变成可以消费新事件的边界。当紧急事件到达时,1) 停止当前操作------如果 LLM 正在推理,立即取消流式响应;如果有同步工具在执行,发送取消信号;2) 清空待处理队列,将所有事件取出;3) 将队列中的事件和紧急事件一起追加到轨迹末尾;4) 立即重新调用 LLM,以更新后的完整轨迹为输入来评估局势。

队列式处理 :用于常规事件,非紧急任务到达时,1) 将事件放入队列末尾,不打断当前操作;2) 等待当前操作完成------让 LLM 完成推理,让同步工具执行完毕;3) 当任何工具调用完成并返回 tool.result 时,检查队列,如果队列非空则将所有事件一次性追加到轨迹;4) LLM 综合处理更新后的轨迹。

并行式处理 :用于独立的轻量级查询,此类查询有三个特征(与主任务无关、需要快速响应、执行成本低)系统判断查询的独立性和复杂度,然后在一个并行的推理会话中独立执行,调用必要的工具生成响应后立即返回。查询和响应会追加到主任务的轨迹中,并标注"与主任务并行执行"的标签,以避免LLM混淆。

可以使用轻量级的分类LLM作为事件路由器,在事件到达时快速判断应该采用的策略。

(2)可靠处理异步任务

原生异步解决了消息能否在运行中到达的问题,复杂任务中的可靠性还取决于模型如何使用这些信息:①结果归属与未完成状态:能否把延迟到达的结果归入正确任务,在结果缺席时避免编造数据?②任务恢复与动作控制:能否在处理新要求后继续原任务,并区分修改计划与停止执行?③多条更新的综合使用:能否同时遵守预算与人数等约束,而不是只记住最后一条消息?

评估需要覆盖两层:++模型是否理解了变化,系统是否按变化正确执行++。

相关推荐
天树星智源25 分钟前
记忆该记「赔率跳变」:机器人长时程十连任务,事件记忆 88.0%,删掉失败记录只剩 1.7%
论文阅读·人工智能·机器人
京东云开发者33 分钟前
京东云推出全新JoyCode智能编码工具,让AI Coding从代码生成走向成果交付
人工智能
泓博33 分钟前
Android仿写苹果缩放窗口
人工智能·gpt·深度学习
软件技术NINI1 小时前
DeepSeek 大模型落地应用实战指南
大数据·人工智能
大模型真好玩1 小时前
大模型训练全流程实战指南实战篇(十八)——微调问答对数据构建技术
人工智能·agent·deepseek
甲维斯1 小时前
谷歌太抽象了,快速测一下Hydrogen!
人工智能
Dawson Zhu2 小时前
【分布式训练⑧】通信优化:NCCL、Ring AllReduce与计算通信重叠
人工智能·语言模型·架构·aigc·agi
泯泷2 小时前
AI Agent 工具设计:给模型装上“手脚”,为什么不能只会调用 API?
人工智能·llm·agent
在所不辞兄2 小时前
【人工智能驱动的电催化研究-07】CSV文件、路径与可追溯记录
人工智能·深度学习·神经网络·机器学习·有限元·电化学·电催化