智源研究院发布数据魔方,以智能化自定义方式重构模型训练数据供给范式

2025年7月28日,在2025世界人工智能大会(WAIC)"数据要素X人工智能+"赋能行业高质量发展论坛上,智源研究院正式发布"数据魔方(DataCube)"------高效生成自定义开源数据集的数据平台。"数据魔方"首次以全新的"多、快、好、省"的方式为用户提供高质量自定义开源数据集(多模态数据),旨在以技术创新打通数据供给与应用个性化需求之间的壁垒,为AI模型训练提供高效、精准、低成本的全新数据解决方案。

在人工智能飞速发展的浪潮中,数据的核心驱动力愈发凸显。当前,开源数据集呈现快速增长,截至2025年7月,HuggingFace平台上的各种开源数据集已突破45万个。然而,在海量数据中精准定位匹配需求、高质量的数据资源,却成为科研人员与开发者面临的新挑战。

与此同时,模型训练正从通用领域加速向垂直领域发展,这意味着模型对训练数据的需求呈现出垂直化、精细化、个性化的趋势。据统计,截至2025年6月,国家网信办备案的生成式人工智能服务已突破400个,其中绝大多数为垂直领域应用模型,这一趋势也进一步凸显了对优质数据的迫切渴求。

然而,在实际操作中,传统模型训练仍依赖人工检索多个数据集,随后进行下载、汇总、筛选、过滤、去重、质检等一系列繁琐流程,不仅耗时费力,也严重制约了模型开发效率。

为解决这一痛点,智源研究院研发的数据魔方(DataCube)可实现从"数据集Level"到"数据样本Level"的精准检索,满足用户个性化的数据需求。只需自然语言输入数据需求,平台便能快速构建专属的个性化数据集,彻底打破以往操作流程的桎梏。数据魔方首次发布,先以多模态视频数据开始,后续将支持更多模态的数据。

在核心技术架构层面,数据魔方依托智源数据平台支持的100+数据处理算子,实现 PB 级数据的自动化处理Pipeline;深度融合 CLIP Understanding 引擎,对多模态样本从本体、行为、视角与风格等多维细进行细粒度语义解析,逐条构建精细数据画像;辅以 Hybrid Retrieval 体系,实现跨模态特征的毫秒级精准召回;最终通过 Data Evaluation 评估数据集构建效果,实现个性化高质量数据集生成。

这些技术的融合,使得数据魔方具备"多、快、好、省"四大优势。

  • 响应速度"快",自然语言输入需求后,最快能秒级反馈并生成数据集;

  • 成本"省",免去繁琐的数据筛选过滤过程,极大降低了人力与时间成本;

  • 数据量"多",目前已汇聚5000W+数据样本基础,且数量仍在持续增长;

  • 数据质量"好",内置深度语义理解算法,确保检索到的数据相关性极高。

依托个性化数据集构建引擎,数据魔方可一键匹配目标场景,高效构建高领域契合度的个性化数据集。以人工智能辅助运动员训练为例,数据魔方可基于训练目标构建运动员技术动作相关视频数据集,从而为后续训练模型提供可直接用于监督学习的高质量素材。再例如游戏场景生成,数据魔方可同时构建具备高动态画面、角色动作及场景切换的优质视频片段,为后续模型提供多样且可控的创作素材。

数据魔方将为AI数据处理领域注入了新的活力,助力行业迈向新的发展阶段。目前,数据魔方已免费开放申请试用,申请通过后每日可试用100次,欢迎感兴趣的用户体验。

数据魔方访问链接:

https://datacube.baai.ac.cn

智源研究院长期致力于人工智能数据研究,并为产业锻造和开源高质量数据集。目前,智源已开源涵盖语言、语音、图像、视频、具身智能等多种模态的数据集超 100 个,全球范围内来自数十个国家的下载量累计突破百万次。其中,自2023年,智源牵头联合数十家研究机构与企业,共同打造国家级高质量中文互联网语料库 CCI 系列。该系列从 2023 年 11 月的 CCI 1.0 迭代至 2025 年 5 月发布的 CCI 4.0,规模已达35TB,成为全球最大的高质量中英文开源文本数据集。截至目前,CCI 系列数据集全球下载超 12 万次,广泛服务于具备中文能力的大模型训练,为大模型技术发展提供数据基石。此外,智源发布的千万级指令微调数据集Infinity Instruct,被评为 HuggingFace 年度 Top20 数据集,成为开源生态中模型微调的重要基准数据集。未来,智源研究院将持续推进高质量数据集的研发与迭代,为大模型技术发展提供"养料"。

相关推荐
索迪迈科技14 小时前
登顶 NAVSIM!博世最新IRL-VLA:逆强化学习重构自动驾驶VLA闭环训练
人工智能·重构·自动驾驶
中电金信2 天前
中电金信:AI重构测试体系·智能化时代的软件工程新范式
人工智能·重构·软件工程
通信小呆呆2 天前
5G/6G时代的智能超表面:如何重构无线传播环境?
5g·重构·信息与通信·信号处理·超表面
Android出海3 天前
Google Play账户与App突遭封禁?紧急应对与快速重构上架策略
android·网络·重构·新媒体运营·产品运营·内容运营
字节数据平台3 天前
一客一策:Data Agent 如何重构大模型时代的智能营销
大数据·人工智能·重构
喂完待续3 天前
【序列晋升】28 云原生时代的消息驱动架构 Spring Cloud Stream的未来可能性
spring cloud·微服务·云原生·重构·架构·big data·序列晋升
OkarOu3 天前
5G边缘计算:重构物联网开发新范式
5g·重构·边缘计算
A小弈同学3 天前
新规则,新游戏:AI时代下的战略重构与商业实践
大数据·人工智能·重构·降本增效·电子合同
2zcode3 天前
基于Matlab狭窄空间环境中多无人机自重构V字队形方法研究
重构·无人机
编码浪子3 天前
趣味学RUST基础篇(构建一个命令行程序2重构)
开发语言·重构·rust