用 AI Sheets 解锁图像的力量

🧭简要概览 :Hugging Face AI Sheets 是一款开源工具,能够用 AI 模型增强数据集的处理能力 ,无需编写任何代码。现在新增视觉功能:可以从图像 (如收据、文档) 中提取数据、根据文本生成图像、甚至编辑图片------一切都能在电子表格中完成。依托 Inference Providers,可调用数千个开放模型。

我们非常高兴地发布 Hugging Face AI Sheets 的重大更新版------这是一款可通过开放 AI 模型构建、转换与丰富数据的开源工具。AI Sheets 基于 Inference Providers 运行,意味着你可以使用由全球顶级推理服务驱动的数千种开放模型。

AI Sheets 的首个版本 让结构化和增强文本内容变得轻而易举。现在,我们为它加入了视觉功能。

图像无处不在------商品照片、收据、截图、图表、徽标......这些图片中蕴含着丰富的结构化信息,等待被提取、分析与转换。现在,你终于可以在 AI Sheets 中直接处理图像内容:查看图片、分析内容、提取数据、生成新图像,甚至实时编辑------全部在同一流程中完成。

你的图片藏着故事

图片往往包含宝贵的信息------产品目录、客户支持单、研究档案、收据、文档等。现在你可以直接上传图片,或使用带图像的数据集,再借助视觉模型提取、分析并结构化这些内容。

你可以做到:

  • 描述与分类图像 ------ 为产品照片生成文字描述,识别文档类型,或根据内容自动打标签
  • 提取结构化数据 ------ 从收据中提取明细,从图表中提取数据,从扫描件中识别文本
  • 添加上下文与元数据 ------ 自动为图片添加相关属性、质量评分或自定义标注

与文本列一样,你可以反复调整提示词、手动修改结果,并用"点赞"告诉模型你更喜欢哪种输出。你的反馈会作为少量样本 (few-shot) 帮助模型生成更好的结果。

示例:从收据中提取结构化费用信息

假设你刚出差回来,手里有一堆收据。上传到 AI Sheets 后,在新列中输入提示词: 提取该收据中的商户名称、日期、总金额和费用类别

AI Sheets 会自动处理每一张收据,输出一个整洁的表格,包含所有提取出的详细信息。你可以手动纠正错误,对准确结果点赞,并重新生成其他条目以提升整体质量。最终可将数据导出为 CSV 或 Parquet 文件,用于你的报销工具。

或者,你也可以将家中旧笔记本上的手写食谱数字化------创建列提取食材、烹饪时间、菜系类型,让个人档案变成可搜索的结构化数据集。

在同一流程中生成与转换文本和图像

需要为你的内容配图?AI Sheets 可以在电子表格中直接通过 AI 模型生成或编辑图像,让整个内容创作流程集中在一个界面中完成。

你可以:

  • 从文本生成图像 ------ 生成与你内容匹配的社交媒体图片、缩略图或插画
  • 编辑与转换图像 ------ 修改上传或生成的图片:更换风格、添加元素、调整构图
  • 批量生成变体 ------ 一次生成多个版本或风格,测试最受欢迎的视觉形式
  • 建立视觉素材库 ------ 为品牌活动批量创建风格一致的图像资产

示例:创建带配图的内容日历

假设你计划发布一个月的健康食谱类社交媒体帖子。你已经准备好了标题与文案,但还缺图像。

创建一个图像列,提示如下: "为以下标题生成一张美味食物的照片:{{title}}。风格:明亮、俯拍、自然光。"

AI Sheets 会为每篇帖子生成独特的图片。效果不理想?再建一列修改: "将背景换成乡村木桌,加上新鲜香草作为装饰。"

你可以多次调整生成和编辑提示,尝试不同方案。最终,你的整月内容计划------文字与图片------都集中在一张表格中,可直接导出或排程发布。

使用指南

下面我们通过一个实例来看看 AI Sheets 的实际操作。我们将用开源模型来识别祖母笔记本中手写的食谱。

上传数据

我们有一个文件夹,里面保存了食谱的照片,只需上传即可。

上传后生成的表格如下:

了解 AI 操作

在电子表格中,每一列都可以通过"AI 操作"进行提取、转换或查询等各种处理。

点击任意列上方的叠加层即可查看操作选项:

图像列支持的操作包括:提取文字、图像问答、目标检测、上色、添加文字,以及自定义任务; 文本列则支持:摘要、关键词提取、翻译等操作。

每个 AI 操作都由"提示词 + 模型"组合而成。让我们看看它如何处理手写食谱数据。

从图像中提取文字

AI Sheets 提供了一个从图像提取文字的模板:

执行后会生成一列包含转录结果的新列,例如:

上图识别出的文本如下:

vbnet 复制代码
MEMORANDUM:

From

To

1 Box Duncan Hines Yellow Cake Mix
1 Box instant lemon pudding
2/3 cups water
1/2 cup Mozola oil
4 eggs
Lemon flavoring to taste.
Put in mixing bowl and beat for 10 min.

and REMEMBER... for Quality PRINTING
CALL OR WRITE
Gatling & Pierce
PRINTERS
TELEPHONE 332-2579
22 YEARS OF SERVICE IN NORTHEASTERN CAROLINA

识别效果不错,但包含了页眉页脚的印刷文字。默认模板的提示是:

提取图像中所有可见文字,包括标志、标签、文档或任何文字内容。

我们可以改用自定义提示。

自定义提取的结果如下:

  • 1 盒 Duncan Hines 黄蛋糕粉
  • 1 盒速溶柠檬布丁
  • 2/3 杯水
  • 1/2 杯 Mazola 食用油
  • 4 个鸡蛋
  • 适量柠檬香精
  • 倒入搅拌碗中搅打 10 分钟

效果非常理想。对于更复杂的图片,我们可以尝试不同的模型。默认模型为 Qwen/Qwen2.5-VL-7B-Instruct,在速度与准确度间平衡良好;我们还可以使用更强大的推理模型 Qwen/Qwen3-VL-235B-A22B-Reasoning

模型对比结果如下:

Qwen/Qwen2.5-VL-7B-Instruct Qwen/Qwen3-VL-235B-A22B-Reasoning
in large bowl combine meat, onion, bread crumbs 1/2 nutmeg & cheese - as you add sprinkle around. Then blend - Last sprinkle blend again Bake in large pan for 10-15 min. at 350. Let stand 5 min before serving. in lg bowl combine meat, onion, bread crumbs 1/4 nutmeg & cheese - as you add sprinkle around. then blend - last spinach blend again. Bake in lg pan for 50-60 min. @ 350 - let stand 5 min before serving

两个模型的输出很接近,但更高阶模型识别出了两个重要细节 (加粗部分) :烘焙时间和关键配料------菠菜。

清洗、转换与丰富文本

当我们对提取结果满意后,可以进一步用 AI 操作转换格式,如生成 HTML 页面。

生成后,每份食谱都变成了结构清晰、排版优美的 HTML 页面:

编辑与转换图像

AI Sheets 集成了图像编辑模型 (如 Qwen-Image-Edit) ,可以直接对图片进行风格化处理与增强。

例如,你希望给食谱图片增加"复古"效果,可以选择黑白滤镜模板:

结果如下:

导出数据集

当你对结果满意后,可以将数据集导出并上传至 Hugging Face Hub! 可选择导出至团队组织、个人主页,或设为私密数据集。

你可以 查看 我们刚刚创建的示例数据集。

接下来做什么?

你可以直接 在线试用 AI Sheets,无需安装或部署。 如果希望本地运行并获得更高性能,建议升级到 PRO 版本,可享受 20 倍推理配额。

如有任何问题或建议,欢迎在社区留言,或通过 GitHub 提交 issue 与我们交流。

英文原文: huggingface.co/blog/aishee...

原文作者: Ame Vi, Daniel Vila, Francisco Aranda, Damián Pumar, Leandro von Werra, Thomas Wolf

译者: Luke, Hugging Face Fellow

相关推荐
小陈工1 小时前
Python Web开发入门(十七):Vue.js与Python后端集成——让前后端真正“握手言和“
开发语言·前端·javascript·数据库·vue.js·人工智能·python
墨染天姬5 小时前
【AI】端侧AIBOX可以部署哪些智能体
人工智能
AI成长日志5 小时前
【Agentic RL】1.1 什么是Agentic RL:从传统RL到智能体学习
人工智能·学习·算法
2501_948114246 小时前
2026年大模型API聚合平台技术评测:企业级接入层的治理演进与星链4SAPI架构观察
大数据·人工智能·gpt·架构·claude
小小工匠6 小时前
LLM - awesome-design-md 从 DESIGN.md 到“可对话的设计系统”:用纯文本驱动 AI 生成一致 UI 的新范式
人工智能·ui
黎阳之光6 小时前
黎阳之光:视频孪生领跑者,铸就中国数字科技全球竞争力
大数据·人工智能·算法·安全·数字孪生
小超同学你好6 小时前
面向 LLM 的程序设计 6:Tool Calling 的完整生命周期——从定义、决策、执行到观测回注
人工智能·语言模型
智星云算力6 小时前
本地GPU与租用GPU混合部署:混合算力架构搭建指南
人工智能·架构·gpu算力·智星云·gpu租用
jinanwuhuaguo6 小时前
截止到4月8日,OpenClaw 2026年4月更新深度解读剖析:从“能力回归”到“信任内建”的范式跃迁
android·开发语言·人工智能·深度学习·kotlin
xiaozhazha_6 小时前
效率提升80%:2026年AI CRM与ERP深度集成的架构设计与实现
人工智能