REAL-FAKE: EFFECTIVE TRAINING DATA SYNTHESISTHROUGH DISTRIBUTION MATCHING 论文学习

这篇文章主要讲的是生成数据在模型训练中的作用,对于接下来要研究的生成多模态数据具有重要的作用。

文章摘要首先讲生成数据很重要,但在训练高级的模型的时候效果不好。论文主要研究的是这背后的原理并且证明了生成数据的作用。

介绍部分,文章提到现在有很多工作都是用生成的文本,图像来训练,但使用假数据来训练的模型性能貌似和真数据来的有很大差距。文章认为这种差距是由生成图像与真实数据分布不一样导致的。文章还搞了个图表示这种分布:

但这个分布的衡量标准是什么?没太看懂。

网上的定义:数据分布是统计学中的重要概念,用于描述数据点在不同取值下的分布情况

但放在这里......不太懂

先前的工作大多是启发式的,本文要从理论框架的角度分析这个问题。总共就做两件事:1)目标数据和合成数据之间的分布差异,以及(2)训练集的基数

我对论文的理解遇到困难了......我应该先学习diffusion

相关推荐
在线打码1 分钟前
禅道二次开发:项目月报整合Dify工作流实现AI智能分析
人工智能·ai·禅道·工作流·dify
nihao5613 分钟前
Mumu 模拟器配置host代理
人工智能
福客AI智能客服11 分钟前
专业适配破局:AI客服软件与电商智能客服重塑日用品服务生态
大数据·人工智能
GIS数据转换器13 分钟前
基于GIS与AI的社区‑商圈融合可视化平台
人工智能·信息可视化·无人机·智慧城市·制造
摩西蒙19 分钟前
业务监控和常用产品
java·大数据·人工智能
乐迪信息20 分钟前
乐迪信息解决港口船型识别难题!AI算法盒子检测船舶类型
人工智能·算法·智能电视
HyperAI超神经22 分钟前
具身智能资源汇总:机器人学习数据集,在线体验世界建模模型,英伟达/字节/小米等最新研究论文
人工智能·深度学习·学习·机器学习·机器人·ai编程·图形生成
地球没有花23 分钟前
调整warmup的batch优化tensorflow serving P99耗时毛刺
人工智能·python·tensorflow
道可云42 分钟前
道可云AI元宇宙平台入选2025年度视听系统典型案例
人工智能
AI-小柒1 小时前
从零入门大语言模型(LLM):系统学习路线与实践指南
大数据·开发语言·人工智能·学习·信息可视化·语言模型·自然语言处理