牛逼!谷歌亲自下场开源的AI自动化神器!

让 AI 像人一样操作手机,自己看屏幕,自己划,自己点,从头干到尾。这件事谷歌亲自下场做了,项目叫 ARTEMIS,8 月开源,到现在三个月,Star 攒到 1.7W+。

手机上的重复操作,装机、注册、登录、挨个点设置项,做安卓测试的人一年要点几万次。以前想省掉这些活,要么继续人肉点,要么写一摞脚本,把每个按钮的定位器都喂给机器。

ARTEMIS 换了个走法,你用一句中文把要做的事说清楚,剩下的它自己来。

这个项目,你只需要记住几个关键信息。

  • 谷歌官方开源,google 组织出品,Apache-2.0 协议,免费用
  • Python 实现,2026 年 8 月 13 日放出,Star 1.7W+(截至 2026-11-15)
  • 谷歌研究院 AndroidWorld 基准 99% 以上任务完成率,官方榜单第一
  • 原生 MCP Server,一条命令接进 Claude Code、Codex、Antigravity、Windsurf
  • 多模态模型随你挑,Gemini、Claude、GPT-4o、Qwen-VL 都行

它干的事很简单,一句话概括:你用自然语言下任务,AI Agent 自己看屏幕、找控件、划屏点按,在一台安卓真机上把任务做完,把截图和日志一起带回来。

AI 像人一样操作真机

官方放了个演示动图,一条指令,它自己打开 Google Maps 设置驾车路线算出全程耗时,再切到 YouTube 放了一首 Coldplay。两个 App,一句话,中间没人碰手机。

它的操作逻辑跟人差不多,看一眼屏幕,想一下,点一下。

界面上每个控件,它分三路去找。

优先走安卓的无障碍层级 ,直接拿控件索引;拿不到就落到坐标 ;控件树里压根没有节点的界面,比如 Canvas、Compose、Flutter 这类自绘页面,由 OCR 加视觉模型兜底。做过移动端自动化的都懂,自绘页面以前是脚本搞不定的盲区,uiautomatorviewer 抓出来一片空白。

第一次在设备上跑任务时,它会自动往手机里装一个无障碍 Helper,只在本机读屏幕布局,不往外面发数据。这个服务不占用 UiAutomation 连接,万一中途挂了,自动退到 UIAutomator2 接着跑,任务时间线里会写明。

两种模式随便切

跑任务分 Flash 和 Pro 两档,命令行一个 --profile 参数来回切。Flash 管快,Pro 管稳。

Flash 是快档,单个模型边看边做的反应式循环,一步 3 到 5 秒,装机、登录、点设置这类确定性操作交给它。Pro 是慢档,一步 15 到 40 秒,Planner 先产出带里程碑的任务计划,Operator 负责执行,每个动作发出去之前,先对着当前界面树和像素校验目标还在不在,跑完由 Checker 对照原始目标做终审,输出书面报告。

长任务不崩,靠的是历史压缩。跑过的步骤压成可检索的摘要,旧截图折叠成视觉总结,上下文不随步数无限膨胀,几百步的任务也扛得住。

跑分也有官方数据。谷歌研究院的 AndroidWorld 基准覆盖 20 多个 App、100 多条多步任务,专考 Agent 在真机上完成真实任务的能力,ARTEMIS 跑出 99% 以上的完成率。出题的是谷歌研究院,交卷的也是谷歌,这个数字看个量级就好,换到你自己的 App 上灵不灵,还得亲手验。

在写代码的编辑器里直接测

ARTEMIS 自带原生 MCP Server,一条命令挂进 AI IDE。

bash 复制代码
uv run artemis mcp --install all

装好后在 Claude Code 的对话框里直接这样说。

把最新改动打成 APK,装到连接的设备上,用测试账号走完登录,验证登录后有没有意外弹窗,最后把页面截图给我。

它自己调构建,自己装机,自己操作,Logcat 日志和截图一并带回。项目还附了一份移动端测试准则 rules.md,教 AI Agent 先探索再动手、优先动态定位失败再退坐标,安装时会一起挂进 IDE。

Bug 复现这个场景尤其顺。用户反馈一段操作路径,原样发给它,真机走一遍,现场原样带回来。

网页投屏,看它干活

不想开编辑器,./start.sh 启动后浏览器会自动打开一个 Web 控制台。

左边是真机投屏,中间是实时推理流,它点了哪里、坐标是多少、每步的结论,全程可见。底下输入框用自然语言下发任务,右侧看板管任务队列和历史回放,跑挂了想看现场,点开回放就是。

两条命令跑起来

门槛低到只有两步,要一台开了 USB 调试的安卓真机或模拟器。

bash 复制代码
git clone https://github.com/google/artemis.git && cd artemis
./start.sh

start.sh 会自动装齐 ADB、scrcpy、FFmpeg 和 Python 依赖,然后提示把 MCP 服务挂进你的 AI IDE。不开浏览器的话,命令行直接跑。

bash 复制代码
uv run artemis run "打开系统设置,查一下当前电量" --profile flash

要在现有工程里用,它提供了零运行时依赖的 Python SDK,返回 Pydantic 强类型结果,断言直接写进 pytest,CI 流水线也能接。

几个要留神的点

只支持 Android,路线图上 iOS 和端侧轻量模型还在排。

每一步都是一次模型调用,token 成本和耗时摆在那里,几千条用例的回归任务还得是直接跑脚本便宜划算。结论带概率属性,要非黑即白判定的质量门禁,别整个交给它。另外它靠无障碍服务读屏,你的 App 要是把无障碍支持阉割了,就得退到坐标和视觉兜底,稳定性会打折。

写在最后

工具可用可不用,思路可以借鉴。快慢两档按活切换的执行策略,每个动作发出前先校验目标的防幻觉设计,还有历史压缩这套长任务方案,放进你自己的测试工具和流程里一样成立。

手机上的重复操作,先挑一两件交给它试试,装机、登录、查弹窗这种,跑几遍看成功率,比站队有用。

GitHub项目地址:

bash 复制代码
https://github.com/google/artemis
相关推荐
金融小师妹1 小时前
多因子关联模型:黄金与铜价同步回落背后的金融变量及PPI传导分析
大数据·人工智能·金融
ZhengEnCi1 小时前
中美AI竞赛之外其他国家在干什么:算力5%的欧洲、买卡的沙特与做场景的日韩
人工智能·gpu·nvidia
对你无可奈何9 小时前
给 ComfyUI 做了一个手机助手
人工智能
feasibility.10 小时前
英伟达把物理AI的3D模型“应用商店”开放了:2575个SimReady仿真资产,总计约472GB,可让agent装配机器人训练场景
人工智能·3d·机器人·仿真·建模·具身智能·英伟达
智联视频超融合平台11 小时前
消防宣传月过半,“AI+消防“给视频平台换了张考卷
人工智能·边缘计算·视频监控·安防·视频联网
冬奇Lab11 小时前
一天一个开源项目(第262篇):AG-UI —— 把 AI Agent 接进前端的开放协议,和 MCP、A2A 并列的第三块拼图
人工智能·开源
罗西的思考12 小时前
【轻量化复现大模型 / KIMI K3】MTP / EAGLE‑3 模块交互式演示
人工智能·深度学习·算法
RobinDevNotes13 小时前
Claude Code 剪视频,不上传、不要 API Key
人工智能·python·音视频·开发工具·ipython
stormzhangV13 小时前
Coding Agent,通往 AGI 的重要一环
人工智能·agent·ai编程