【AI Agent 实战】agent-vision-toolkit 中文版:给纯文本模型(DeepSeek)装上视觉能力

1180 stars · MIT · Python · 支持 Codex / Claude Code / Pi / OpenCode

它解决什么问题

纯文本模型(DeepSeek、GLM)做 coding agent,看不了图。agent-vision-toolkit 的思路:视觉能力不必在模型里,可以在 harness(运行时)里------用工具把图片翻译成模型能理解的文本。

两个组件

  1. 视觉工具 CLI:图片问答、长截图 OCR、前端 UI 还原、GUI 自动化、像素对比、前景提取、主色分析;
  2. vision-skills 技能包:教 agent 何时用哪个工具。

任何能调 shell 的 agent 装上就"看得见"。

核心工具

工具 用途
长截图 OCR 提取长图里的报错/日志/聊天文字
前端 UI 还原 设计图 → 前端代码
GUI 自动化 看屏幕、定位元素、点击、读结果
图片问答 图里有什么、两图差异
像素对比 图片 diff
前景提取 抠图

快速开始

bash 复制代码
git clone --recurse-submodules https://github.com/Anionex/agent-vision-toolkit.git
cd agent-vision-toolkit

vision-skills 技能安装到你的 agent,即可让 text-only 模型调用视觉工具。

已验证

Codex + DeepSeek 实机验证,Claude Code、Pi、Oh My Pi、OpenCode 端到端验证。

注意

工具把图片转成结构化文本,模型理解的是文本而非像素级视觉推理。结构化看图(提文字/还原布局/定位元素)够用;审美判断、复杂图像推理需原生多模态模型。

中文版

我已将项目 README 和核心文档完整中文化:

https://github.com/yangshun2005/agent-vision-toolkit-cn

如果这个项目对你有帮助,也欢迎动动小手去原仓库点个 Star,支持作者持续维护。

相关推荐
智能体与具身智能1 小时前
TVA具身智能的概念、架构与应用(19)
人工智能·python·具身智能
AI智能体工作室1 小时前
生产级 RAG 检索增强架构实战:向量数据库、混合检索(Hybrid Search)、RRF 融合与重排(Rerank)全链路
人工智能
geinvse_seg2 小时前
我做了个 AI 架构审查员,把整个微服务项目通读了一遍,还顺手做成了 Skill
人工智能
李帅朋2 小时前
微分基本定义笔记
人工智能·笔记·深度学习·神经网络
醍醐实验室2 小时前
下一代端到端全模态(Omni)模型解密:离散音频 Token 化与极速双工流式交互架构
人工智能
米小虾2 小时前
你的 Agent 有 1000 万上下文,为什么第 50 轮就开始失忆?
人工智能·agent
东风破_2 小时前
Text2SQL :用自然语言操作 SQLite 数据库
人工智能·后端
吴佳浩 Alben2 小时前
Agent 怎么做自动化评测?构建端到端的 Agent Evaluation 体系
人工智能·语言模型·架构·自动化·ai编程
G***技2 小时前
告别“云端依赖”:LH707 如何重构 AI 视频监控的底层逻辑?
人工智能·嵌入式硬件