迁移学习之领域泛化

对目标领域一无所知,并不是要适应到某一个特定的领域上的问题通常称为领域泛化。领 域泛化可又分成两种情况。一种情况是训练数据非常丰富,包含了各种不同的领域,测试数据 只有一个领域。如图1(a)所示,比如要做猫狗的分类器,训练数据里面有真实的猫跟狗 的照片、素描的猫跟狗的照片、水彩画的猫跟狗的照片,期待因为训练数据有多个领域,模型 可以学到如何弥平领域间的差异。当测试数据是卡通的猫跟狗时,模型也可以处理,具体细节 可参考论文"Domain Generalization with Adversarial Feature Learning" 。另外一种情况如 图1(b)所示,训练数据只有一个领域,而测试数据有多种不同的领域。虽然只有一个 领域的数据,但可以想个数据增强的方法去产生多个领域的数据,具体可参考论文"Learning to Learn Single Domain Generalization"。

图1 领域泛化示例

相关推荐
P-ShineBeam几秒前
知识图谱-结构化数据的通用LLM推理框架-StructGPT
数据库·人工智能·语言模型·自然语言处理·知识图谱
paopao_wu6 分钟前
LangChainV1.0[03]-语义检索:PDF放入向量数据库
人工智能·python·langchain·pdf
式5166 分钟前
线性代数(十一)子空间的扩展
python·线性代数·机器学习
liliangcsdn8 分钟前
全期望公式在DDIM中的应用实例
算法·机器学习·概率论
救救孩子把9 分钟前
0-机器学习与大模型开发数学教程
人工智能·数学·机器学习
TonyLee01711 分钟前
RNN类神经网络整理
人工智能·rnn·神经网络
三万棵雪松11 分钟前
【AI小智后端部分(五)】
数据库·人工智能·python·语音处理·ai小智
橙露12 分钟前
视觉检测核心定位算法全解析:优缺点对比与场景选型指南
人工智能·算法·视觉检测
Hcoco_me15 分钟前
大模型面试题28:推导transformer layer的计算复杂度
人工智能·深度学习·学习·自然语言处理·transformer·word2vec
kimi-22217 分钟前
大模型推理model.generate()+tokenizer.decode() 、model(**input)
人工智能·深度学习