智源研究院发布数据魔方,以智能化自定义方式重构模型训练数据供给范式

2025年7月28日,在2025世界人工智能大会(WAIC)"数据要素X人工智能+"赋能行业高质量发展论坛上,智源研究院正式发布"数据魔方(DataCube)"------高效生成自定义开源数据集的数据平台。"数据魔方"首次以全新的"多、快、好、省"的方式为用户提供高质量自定义开源数据集(多模态数据),旨在以技术创新打通数据供给与应用个性化需求之间的壁垒,为AI模型训练提供高效、精准、低成本的全新数据解决方案。

在人工智能飞速发展的浪潮中,数据的核心驱动力愈发凸显。当前,开源数据集呈现快速增长,截至2025年7月,HuggingFace平台上的各种开源数据集已突破45万个。然而,在海量数据中精准定位匹配需求、高质量的数据资源,却成为科研人员与开发者面临的新挑战。

与此同时,模型训练正从通用领域加速向垂直领域发展,这意味着模型对训练数据的需求呈现出垂直化、精细化、个性化的趋势。据统计,截至2025年6月,国家网信办备案的生成式人工智能服务已突破400个,其中绝大多数为垂直领域应用模型,这一趋势也进一步凸显了对优质数据的迫切渴求。

然而,在实际操作中,传统模型训练仍依赖人工检索多个数据集,随后进行下载、汇总、筛选、过滤、去重、质检等一系列繁琐流程,不仅耗时费力,也严重制约了模型开发效率。

为解决这一痛点,智源研究院研发的数据魔方(DataCube)可实现从"数据集Level"到"数据样本Level"的精准检索,满足用户个性化的数据需求。只需自然语言输入数据需求,平台便能快速构建专属的个性化数据集,彻底打破以往操作流程的桎梏。数据魔方首次发布,先以多模态视频数据开始,后续将支持更多模态的数据。

在核心技术架构层面,数据魔方依托智源数据平台支持的100+数据处理算子,实现 PB 级数据的自动化处理Pipeline;深度融合 CLIP Understanding 引擎,对多模态样本从本体、行为、视角与风格等多维细进行细粒度语义解析,逐条构建精细数据画像;辅以 Hybrid Retrieval 体系,实现跨模态特征的毫秒级精准召回;最终通过 Data Evaluation 评估数据集构建效果,实现个性化高质量数据集生成。

这些技术的融合,使得数据魔方具备"多、快、好、省"四大优势。

  • 响应速度"快",自然语言输入需求后,最快能秒级反馈并生成数据集;

  • 成本"省",免去繁琐的数据筛选过滤过程,极大降低了人力与时间成本;

  • 数据量"多",目前已汇聚5000W+数据样本基础,且数量仍在持续增长;

  • 数据质量"好",内置深度语义理解算法,确保检索到的数据相关性极高。

依托个性化数据集构建引擎,数据魔方可一键匹配目标场景,高效构建高领域契合度的个性化数据集。以人工智能辅助运动员训练为例,数据魔方可基于训练目标构建运动员技术动作相关视频数据集,从而为后续训练模型提供可直接用于监督学习的高质量素材。再例如游戏场景生成,数据魔方可同时构建具备高动态画面、角色动作及场景切换的优质视频片段,为后续模型提供多样且可控的创作素材。

数据魔方将为AI数据处理领域注入了新的活力,助力行业迈向新的发展阶段。目前,数据魔方已免费开放申请试用,申请通过后每日可试用100次,欢迎感兴趣的用户体验。

数据魔方访问链接:

https://datacube.baai.ac.cn

智源研究院长期致力于人工智能数据研究,并为产业锻造和开源高质量数据集。目前,智源已开源涵盖语言、语音、图像、视频、具身智能等多种模态的数据集超 100 个,全球范围内来自数十个国家的下载量累计突破百万次。其中,自2023年,智源牵头联合数十家研究机构与企业,共同打造国家级高质量中文互联网语料库 CCI 系列。该系列从 2023 年 11 月的 CCI 1.0 迭代至 2025 年 5 月发布的 CCI 4.0,规模已达35TB,成为全球最大的高质量中英文开源文本数据集。截至目前,CCI 系列数据集全球下载超 12 万次,广泛服务于具备中文能力的大模型训练,为大模型技术发展提供数据基石。此外,智源发布的千万级指令微调数据集Infinity Instruct,被评为 HuggingFace 年度 Top20 数据集,成为开源生态中模型微调的重要基准数据集。未来,智源研究院将持续推进高质量数据集的研发与迭代,为大模型技术发展提供"养料"。

相关推荐
weilaikeqi11112 小时前
骏丰科技主动健康达人秀登上北京卫视,大健康行业迎需求重构
人工智能·科技·重构
软件供应链安全指南1 天前
Forrester发布《2025年应用安全状况报告》,复杂性下的防御体系重构
安全·重构
cocodameyou1321 天前
从能量阻滞到流动:解码“被动学习”背后的家庭动能重构逻辑
笔记·学习·其他·百度·微信·重构·课程设计
listhi5201 天前
压缩感知信号重构的块稀疏贝叶斯学习(BSBL)算法:原理、实现与应用
学习·算法·重构
徐礼昭|商派软件市场负责人1 天前
AI 重构网购体验:从 “将就” 到 “讲究” 的消费者进化史|徐礼昭
大数据·人工智能·重构·智能客服·零售·智能搜索·ai推荐
代码游侠1 天前
嵌入式开发代码实践——串口通信(UART)开发
c语言·开发语言·笔记·单片机·嵌入式硬件·重构
Promise微笑2 天前
Geo优化排名因素深度专访:两大核心与四轮驱动的信任重构
人工智能·重构
二等饼干~za8986682 天前
Geo优化源码开发:关键技术解析与实践
数据库·sql·重构·mybatis·音视频
a程序小傲2 天前
Maven 4 要来了:15 年后,Java 构建工具迎来“彻底重构”
java·开发语言·spring boot·后端·spring·重构·maven
2501_940277803 天前
告别碎片化集成:使用 MCP 标准化重构企业内部遗留 API,构建统一的 AI 原生接口中心
人工智能·重构