06有监督学习——迁移学习

1.迁移学习分类

(1) 基于实例的迁移学习方法:

  • 假设:源域中的一些数据和目标域会共享很多共同的特征
  • 方法:对源域进行instance reweighting,筛选出与目标域数据相似度高的数据,然后进行训练学习

(2)基于特征的迁移学习

当源域和目标域含有一些共同的交叉特征时,我们可以通过特征变换,将源域和目标域的特征变换到相同空间,使得该空间中源域数据与目标域数据具有相同分布的数据分布,然后进行传统的机器学习。

(3)基于模型的迁移学习

基于模型的迁移,源域和目标域共享模型参数,也就是将之前在源域中通过大量数据训练好的模型应用到目标域上进行预测。

  • 特点:模型相同部分直接进行迁移
  • 不需要数据训练

(4) 基于关系的迁移学习

当两个域是相似的时候,那么它们之间会共享某种相似关系,将源域中学习到的逻辑网络关系应用到目标域上来进行迁移,比方说生物病毒传播规律到计算机病毒传播规律的迁移。这部分的研究工作比较少。典型方法就是mapping的方法。

总结迁移的方式:

  • 数据
  • 特征
  • 模型
  • 思路
相关推荐
啥都鼓捣的小yao4 分钟前
课程2. 用PyTorch训练神经网络与梯度下降
人工智能·pytorch·神经网络
PeterClerk12 分钟前
DeepSeek R1 训练策略4个阶段解析
人工智能·深度学习·机器学习·语言模型·自然语言处理·llm·deepseek
前端熊猫1 小时前
排序算法学习笔记
笔记·学习·排序算法
龚大龙1 小时前
机器学习(李宏毅)——Diffusion Model
人工智能·机器学习
陈敬雷-充电了么-CEO兼CTO1 小时前
DeepSeek-R1:通过强化学习激发大语言模型的推理能力
人工智能·gpt·搜索引擎·自然语言处理·chatgpt·大模型·aigc
小宇爱1 小时前
55、深度学习-自学之路-自己搭建深度学习框架-16、使用LSTM解决RNN梯度消失和梯度爆炸的问题,重写莎士比亚风格文章。
人工智能·rnn·深度学习·神经网络·自然语言处理
南太湖小蚂蚁1 小时前
自然语言处理入门2——神经网络
人工智能·python·深度学习·神经网络·自然语言处理
auspark1 小时前
macos下cocoapods的学习
学习·macos·cocoapods
梦丶晓羽1 小时前
自然语言处理:初识自然语言处理
人工智能·自然语言处理
朔北之忘 Clancy2 小时前
2022 年 12 月青少年软编等考 C 语言五级真题解析
c语言·开发语言·c++·学习·算法·青少年编程·题解