给企业配一双 AI 的手:火山引擎 OS Agent 替你操作手机和电脑

01 AI 已经很会思考问题,但为什么还不能把事办完整?

假如你要做这样一个任务:"打开xx APP,查找从昨晚到现在,与某品牌有关的负面内容;并逐条记录内容的标题、发布时间和互动数据;如果有疑似投诉的帖子,需要进入详情页取证;最后,把所有结果汇总成一份舆情简报。"

对人来说,这项任务相当于一串熟悉的操作:打开 APP、搜索关键词、切换排序、滚动页面、进入详情页、截图取证、复制链接、整理结果。但对传统 AI 来说,这里面却隔着一道很现实的鸿沟------它可以告诉你应该怎么做,却未必能替你在真实界面里完成这些动作。

过去,企业主要通过 API、脚本或 RPA 来跨越这道鸿沟。它们能做很多事,但都有各自清晰的适用边界:API 依赖系统开放接口;脚本与 RPA 依赖预先配置的流程和界面元素;一旦面对没有 API 的 APP、频繁变化的页面、长尾操作或需要语义判断的流程,它们的自动化就容易卡住。

OS Agent 试图填补的,正是 API、脚本和 RPA 都覆盖不到的空白------不依赖开放接口、不预先写死每一步,面对易变的页面和需要临场判断的长尾任务,像人一样看懂屏幕、灵活操作,直到把结果真正交付出来。

场景示例

手机 APP 自动化测试

电脑上企业应用操作

浏览器_信息收集

02 什么是 OS Agent?

OS Agent 是一类面向操作系统和图形界面的执行型智能体。用户用自然语言说清目标后,它能够识别屏幕上的内容,理解当前目标,然后规划步骤,并调用鼠标键盘或触控能力来执行动作,并持续观察结果,直到完成任务、明确失败,或在关键节点请求人工介入。

它的工作机制可以概括为一个持续的循环:

1. 看懂现场: 识别屏幕上的内容、控件与当前状态。

2. 规划下一步: 结合任务目标判断接下来该点击、输入、等待还是切换页面。

3. 执行动作: 操作鼠标、键盘或触屏,必要时调用脚本、工作流和系统工具。

4. 检查结果: 观察页面是否发生预期变化,判断目标是否真正达成。

5. 处理异常: 遇到弹窗、网络波动、界面变化或执行失败时,重试、调整路径或请求人工接管。

因此,OS Agent 并不是"给大模型接上一套鼠标键盘"这么简单,它提供的是一套完整的执行系统:模型负责理解与决策,执行环境提供真实工作现场,工程化能力负责技能、流程与异常恢复,治理能力则保证权限、安全、审计与人机协同。

03 一张图看懂 OS Agent 产品全景

接下来,将从企业系统侧、OS Agent 执行引擎、持续优化闭环这三个视角,带你看清 OS Agent 全貌:

左侧 · 企业系统侧:业务系统通过 CLI 或 OpenAPI 下达任务,租户配置预设运行参数,企业级治理提供权限控制、过程审计与人工接管能力。

中间 · OS Agent 执行引擎:核心智能层理解目标、规划步骤、调用技能、校验结果;向下驱动 CUA(电脑端)和 MUA(移动端),分别在云端桌面沙箱和云手机环境中完成操作。

右侧 · 持续优化闭环:所有执行轨迹沉淀为数据底座,通过 Script 成功率分析、GUI 模型 SFT、Chain 组织合理性优化,持续反哺执行引擎,形成越用越聪明的正向循环。

04 两类执行能力:CUA 与 MUA

OS Agent 的执行能力按工作现场分为两类:电脑端的 CUA(Computer Use Agent)和移动端的 MUA(Mobile Use Agent)。它们在不同界面和业务现场中承担"执行者"的角色,不是彼此替代的关系。当然,一个企业流程也可能同时调用两者:CUA 在网页后台下载任务清单,MUA 进入 APP 完成操作,再由 CUA 把结果录入企业系统。

CUA:让 AI 操作浏览器和电脑

CUA 面向的是浏览器与桌面 OS 场景。它通过多模态模型来理解屏幕,自主规划步骤,并执行鼠标键盘动作,完成以往由人坐在电脑前处理的任务。

它适合以下几类工作:

  • 信息检索与整理: 在多个网页或系统中搜索信息,提取关键字段并汇总。
  • 跨系统搬运: 从一个企业后台读取数据后,再录入到另一个没有标准接口的系统。
  • 浏览器流程: 完成表单填写、后台配置、内容录入、文件上传与结果核验等流程。
  • 桌面软件操作: 处理必须依赖图形界面的办公软件或内部工具。

对于开发者而言,CUA 的价值并不只是"自动点击",关键是能把真实桌面环境、浏览器、文件系统、脚本、技能和观测能力组织成一套可调用的执行能力。自此,企业不必为每一个长尾系统单独等待 API 接入,也不必从零建设执行环境、权限体系和异常处理机制。

MUA:让 AI 进入 Android 和 APP

MUA 主要面向 Android OS 与移动 APP 场景。它运行在云手机上,基于视觉模型来识别界面、理解任务、规划动作,并通过触控操作完成流程。

移动端的特殊之处在于,许多业务就发生在 APP 内,比如:内容平台运营、商家版 APP、私域沟通、移动端商品调研、舆情巡检、直播辅助与 APP 质量保障。它们往往没有完整开放的 API,或者 API 无法覆盖到消费者能够看到的页面和进行的操作。

例如,一项商品调研任务可能要求 MUA 打开抖音商城,设置物流时效、服务权益与保质期等筛选条件来搜索指定品类,再按销量排序,最后逐条采集商品、价格与店铺信息。这里不仅有点击和输入,还需要识别页面状态、滚动列表、判断是否已完成筛选,并结构化返回最终结果。

云手机是 MUA 的工作现场,而不是一个泛化的 Agent 底座。 当任务同时需要 Android 原生 APP、长期保留登录与会话状态、按需并发调度设备,并满足账号隔离和过程审计时,云手机才体现出不可替代的价值。

05 为什么"执行环境"与模型同样重要?

如果说模型是 OS Agent 的大脑,那么云端桌面、浏览器、沙箱和云手机等执行环境,就是它的办公室与设备。没有稳定的执行环境,再聪明的模型也可能因为环境不可用、状态丢失或权限失控而无法完成任务。

想要打造企业级执行环境,至少要回答四个问题:

  • 任务在哪里运行? 电脑端需要可隔离的桌面或浏览器环境,移动端需要真实可用的 Android 与 APP 环境。
  • 状态如何保留? 账号登录、文件、Cookie、应用数据和长会话状态能否持续存在,决定了 Agent 能否承接连续业务。
  • 如何规模化? 任务高峰期能否快速扩容,多个账号和任务之间能否隔离,决定了方案能否从 Demo 进入生产。
  • 如何治理? 谁有权下达任务、Agent 做过什么、失败在哪里、何时需要人工确认,都必须有记录和边界。

这也是 OS Agent 与单一模型能力的关键区别:它关注的不只是某一次操作能否成功,而是能否在真实业务里持续、可控地完成任务。

06 MUA 实操 Demo:从查资料到交结果

以零售商品调研为例,用户可以直接描述目标:

打开抖音 APP,在商城搜索"坚果";筛选"24 小时发货""包邮"和"保质期 12 个月及以上"条件;按销量排序,查看排名靠前的商品、价格、销量与店铺名称,并返回汇总。

MUA 接到任务后,需要完成的不是一个固定脚本,而是一条动态执行链:

  1. 确认 APP 与账号处于可用状态。

  2. 进入商城并搜索关键词。

  3. 识别并设置多个筛选条件。

  4. 检查筛选状态,切换销量排序。

  5. 逐屏浏览并采集所需字段。

  6. 整理结果,回传必要的截图或证据。

如果执行中途出现登录、验证码、付款、发布等敏感动作,Agent 应当暂停并请求人工确认,而不是为了"自动化率"越过风险边界。人工处理完成后,任务可以继续执行。

07 如何让 OS Agent 的执行成功率超过 95%?

从上线到现在,OS Agent 的能力并不是一次性跳变完成,而是沿着"先能跑、再跑准、再跑省"这条路径逐步打磨。每一步解决的,都是上一步暴露出来的新瓶颈。

变准:从"点不准"到成功率约 95%

刚跑通端到端链路时,Agent 最常见的问题是"点不准"------屏幕上明明有个按钮,但模型给出的坐标偏了,点到旁边的空白处。

  • 统一 Grounding 感知逻辑:MUA 典型任务成功率从约 68% 拉到约 81%(+12.9pp)。
  • 规范工具输出格式:解决"调错工具、传错参数"这类输出不规范的问题,准确率再提 4.3pp。
  • 到 2026 年 10 月,线上有效任务成功率稳定在约 95% (移动端)和 97% (桌面端)。

变快:单任务耗时下降约三成

早期,每个动作都要截一次图、问一次主模型,一个简单任务要走几十轮往返。基于 OS Agent,在典型 A/B 测试中,平均远端执行耗时从 93.6 秒降到 64.9 秒。

  • 确定动作不走主模型:把"点一个已知位置的按钮"这类确定动作,从主模型循环中剥离,端到端耗时下降约 29%。
  • 冷启动优化:首轮截图等待时间大幅缩短。

变省:Token 消耗下降约两成

在批量运营场景中,成本直接决定能不能规模化。现在,通过 OS Agent,同样的预算能跑更多任务,或者单任务成本更低。

  • 规范工具输出:无效 Token(非法调用重试、错误参数重跑)减少了约 22%。
  • 确定动作轻量化:Runtime Token 下降约 20%。

核心思路:让主模型只做它必须做的决策,其余交给更轻、更确定的路径。

08 OS Agent 适合什么,不适合什么?

现在擅长什么

  • 信息采集与整理:在主流 APP 里搜索、浏览、提取信息并总结,这些是 OS Agent 应用较高的场景。
  • 标准流程操作:按既定路径完成一组固定动作,比如"搜某类商品→记录价格和销量→整理成表格"、"读几篇笔记→提炼卖点→生成草稿"。
  • 内容发布类闭环:信息已经备齐、只需要按规范发到指定账号(如发一条抖音、回一条私信)。
  • 重复执行的批量化任务:同一类任务跑很多次(比如每天采集一次某类商品价格)。

现在不擅长什么

  • 需要登录、扫码、验证码或人工审批的环节:这类任务会触发用户中断(request_user),需要人工介入一次才能继续。如果你的业务链路里这些环节不可避免,要预留人工兜底。
  • 超长链路任务:步骤特别多、页面跳转特别深的任务,容易触达最大步骤上限(用户可自行设置最大步骤)。目前来看,单任务动作超过 20--30 步,就要考虑拆分成多个子任务。
  • 正确性要求极高的任务:比如"发到正确的账号""数据不能写错"等任务,模型自判完成时,不一定真的做对了,存在一定的幻觉概率。在关键动作上,建议加人工确认节点,或把 OS Agent 作为执行层,业务判断交给上层。

09 落地建议

企业用户:可以从一条"人很累、机器可验证"的流程开始。 企业可优先选择重复频率高、输入输出清晰、结果能够核验的任务,让 Agent 先做信息采集和草稿,再逐步扩展到执行,并在关键节点始终保留人工把关流程。

开发者:需要同时设计任务接口与运行治理。 除了描述任务目标,开发者还应定义输入、输出、完成条件、失败状态、超时、重试、人工接管点和审计记录。把一个宏大任务拆成多个可观测、可恢复的小闭环,通常比让 Agent"一把梭"更稳定。

OS Agent 的意义,不是把每一个人机界面都变成无人区,而是让 AI 从"提出建议"进一步走向"交付结果"。当它能在合适的执行环境中安全动手、随时接受人工监督,并对结果负责时,企业数字员工才真正有了可落地的形态。

下一篇预告: OS Agent 为什么能"看懂并操作界面"?我们将从感知、规划、Grounding、工具调用、结果校验与异常恢复出发,拆解一条真实任务是如何被执行完成的。

相关链接

相关推荐
三年三月8 分钟前
自建https证书SSL
前端
神鹰手哥_起飞版10 分钟前
我是怎么管理 Coding Agent 的:把任务交出去,也把结果验回来
人工智能·架构·产品经理
泯泷27 分钟前
你的 AI 知识库为什么答非所问?问题出在“切块”这一刀
人工智能
国科安芯41 分钟前
算力上天之后的电与静:星上边缘计算载荷带外管理网络的低功耗调度与辐射容错
网络·人工智能·嵌入式硬件·安全·边缘计算·低轨卫星·商业航天
kisdiem1 小时前
让 AI 边玩游戏边编写世界规则:从 XLand 到 ARC-AGI-3 的实验记录
人工智能·agi·玩游戏
ClouGence1 小时前
Web 自动化测试总是超时?聊聊等待、超时和异步加载
前端·测试
kaixin_啊啊2 小时前
【零基础学AI】第 27 章课后练习与答案
人工智能
慢慢来不要急2 小时前
Anthropic 自建源码控制,AI Agent 把 Git 跑到了极限 · 11-09
人工智能·开发工具
CyrusYiVPP2 小时前
实测 Ollama 本地部署:我用 Python 搓了个离线问答机器人,Qwen4 27B 一到换个模型名就能用
人工智能·python