【MLLM】GraphWalker:Deepresearch用于图像生成

note

  • 思路是用于图像生成的多模态深度搜索智能体,进行多跳推理与搜索,以获取图像生成所需的文本知识和参考图像,结论是在KnowGen上使Qwen-Image性能提高约16分,在WISE上提高约15分。
  • 这也是一种应用型的工作,本质还是在做图片生成方向的上下文扩充,优化prompt和参考图片。

文章目录

一、GraphWalker:Deepresearch用于图像生成

【Deepresearch用于图像生成思路】思路是用于图像生成的多模态深度搜索智能体,进行多跳推理与搜索,以获取图像生成所需的文本知识和参考图像,结论是在KnowGen上使Qwen-Image性能提高约16分,在WISE上提高约15分。GraphWalker: Agentic Knowledge Graph Question Answer-ing via Synthetic Trajectory Curriculum,https://arxiv.org/pdf/2603.28533,https://gen-searcher.verce,

1)实现思路:

  • 三类工具:
    • search【网络文本搜索,获取事实信息】
    • image_search【图像检索,获取视觉特征参考】
    • browse【网页精读,提取深层证据】;
  • 两阶段训练:
    • SFT监督微调【在Gen‑Searcher‑SFT‑10k训练,掌握基础工具使用】
    • AgenticRL强化学习【用GRPO优化搜索轨迹,仅用图像奖励受生成器能力与随机性影响,方差大、不稳定,仅用文本奖励忽略信息对图像生成的实际价值,所以用双奖励机制:最终奖励R=(1−α)R_image+αR_text,α=0.5。
      • 文本奖励评估信息完整性
      • 图像奖励用K‑Score加权评分(忠实度0.1+视觉正确性0.4+文本准确性0.4+美学0.1)】;

2)数据合成思路:

Agent轨迹合成【search用于从网络中检索文本信息,image_search用于通过文本查询搜索相关图像,以及browse用于阅读和分析已检索网页的详细内容。在此过程中,智能体持续分析来自环境的文本和视觉反馈,识别出有用的证据和参考图像,并据此规划下一步动作。通过这一多轮推理与搜索流程,智能体逐步从多个来源聚合信息,最终生成一个基于证据的提示以及一组适用于图像合成的相关参考图像】

->图像生成【在获得最终的有根据提示和视觉参考后,使用专有的图像生成模型NanoBananaPro合成相应的图像】;

->数据过滤【使用Seed1.8从多个角度对生成的样本进行评分,包括提示是否真正需要搜索、生成内容的正确性、与提示的一致性、视觉美感、文本渲染清晰度以及安全考虑。与基于规则的过滤相结合,例如移除token长度过长或搜索结果不一致的提示】。

Reference

1 GraphWalker: Agentic Knowledge Graph Question Answer-ing via Synthetic Trajectory Curriculum,https://arxiv.org/pdf/2603.28533,https://gen-searcher.verce,

相关推荐
学IT的周星星14 小时前
LangGraph:用「流程图」的方式编排 Agent
数据库·人工智能·大模型·llm·流程图·agent
猫先生Mr.Mao16 小时前
让动作先接受“未来检验”:ThinkWorld 如何用世界想象强化机器人推理
机器人·强化学习·具身智能·vla·世界模型·thinkworld
yz_aiks17 小时前
chrome-use 使用教程:让 Claude Code 操控已登录的 Chrome(禅道、ONES 实测)
chrome·自动化·大模型·ai agent
Jsundoku18 小时前
第三章 强化学习 -- 多臂老虎机
人工智能·强化学习·多臂老虎机·朴素策略·置信上界算法·贝叶斯老虎机·上下文老虎机
虎鲸不是鱼18 小时前
AI 自动化逆向(三十五)假设空间枚举的完备性是假设出来的
人工智能·自动化·大模型·逆向·ai逆向
发量惊人的中年网工20 小时前
做 AI 应用怎么选大模型 API?选项应该看哪几点?
人工智能·ai·大模型
QuZhengRong21 小时前
【AI】大模型推理中 KV Cache 原理解析
人工智能·大模型·agent·提示词·推理
爱吃饼干的熊猫1 天前
OpenAI 发布 GPT-6.1 Terra:视觉推理 + 电脑操作二合一,API 价格腰斩
大模型
张晓宇 .1 天前
Codex 不显示新模型怎么办?GPT-6.1 Terra 上线后的排查教程:版本、自定义模型目录与 API 支持
人工智能·gpt·大模型·ai编程·codex·deepseek
虎鲸不是鱼1 天前
AI 自动化逆向(三十三)换一个「驱动器」,覆盖率跳了一个量级
人工智能·自动化·大模型·逆向·ai逆向