[迁移学习]领域泛化

一、概念

相较于领域适应领域泛化(Domain generalization)最显著的区别在于训练过程中不能访问测试集。

领域泛化的损失函数一般可以描述为以下形式:

该式分为三项:第一项表示各训练集权重 的线性组合,其中π为使该项最小的系数;第二项表示域间距离 ,其中表示目标域和源域之间最小的距离、表示源域之间两两组合的最大距离;第三项表示理想风险(ideal joint risk),一般情况下可以忽略。

二、分类

1.数据操作(Data manipulation)

该方法体现在对数据集的操作,主要分为数据增强 (Data augmentation)和数据生成(Data generation)

其中数据增强 主要的方式是对图像进行尺寸、颜色、亮度、对比度的调整,旋转、添加噪声等操作。可由其增强的方向分为:相关数据增强对抗数据增强

数据生成主要有3种方式:VAE、GAN(对抗生成)、Mixup(混合增强),主要的目的是增强模型的泛化能力。

2.学习表征(Representation learning)

该方法可以表征为:

通过对以上式子中各部分的学习来表征域的特征,主要方法有四种

①Kernel-based method :传统方法,主要依赖核投射技巧

②Domain adversarial learing:对抗方法,基于对抗网络进行混淆

③Explicit feature alignment:显式的减少域之间的差异,域对齐

④Invariant risk minimization:范式方法

⑤Feature disentanglement :解耦,提取出相同类别中共同特征

主要分为两种:1.UndoBias :将权重分为两种(其中为所有域的公共特征,为每个域私有的特征)

2.Generative modeling:使用生成网络进行解耦

3.学习策略(Learning strategy)

①Meta-learning(源学习)

将源域分解为若干个小任务

②Ensemble learning(集成学习)

认为目标域是源域的线性组合,表现在实际操作中是各种结果按照一定权重进行组合(类似于投票)

相关推荐
RPA机器人就选八爪鱼1 分钟前
RPA财务机器人选型攻略:5步搭建高性价比自动化体系
大数据·人工智能·机器人·自动化·rpa
予枫的编程笔记2 分钟前
Elasticsearch深度搜索与查询DSL实战:精准定位数据的核心技法
java·大数据·人工智能·elasticsearch·搜索引擎·全文检索
小北方城市网2 分钟前
第 6 课:云原生架构终极落地|K8s 全栈编排与高可用架构设计实战
大数据·人工智能·python·云原生·架构·kubernetes·geo
创作者mateo3 分钟前
机器学习基本概念简介(全)
人工智能·机器学习
飞睿科技5 分钟前
乐鑫ESP32-S3-BOX-3,面向AIoT与边缘智能的新一代开发套件
人工智能·嵌入式硬件·esp32·智能家居·乐鑫科技
Rabbit_QL7 分钟前
【数学基础】机器学习中的抽样:你的数据是样本,不是世界
人工智能·机器学习
金融RPA机器人丨实在智能12 分钟前
深度拆解 RPA 机器人:定义、应用、价值与未来方向
人工智能·rpa·实在rpa
青主创享阁13 分钟前
技术破局农业利润困局:玄晶引擎AI数字化解决方案的架构设计与落地实践
大数据·人工智能
datamonday17 分钟前
[EAI-037] π0.6* 基于RECAP方法与优势调节的自进化VLA机器人模型
人工智能·深度学习·机器人·具身智能·vla
Toky丶22 分钟前
【文献阅读】Pt2-Llm: Post-Training Ternarization For Large Language Models
人工智能·语言模型·自然语言处理