关于迁移学习的一点理解

举个栗子,老虎图片的数量非常少,可以让网络先学会识别猫的图片

1、预训练模型

内容:利用在 ImageNet1000 数据集训练好的模型,将所需的模型参数下载,嵌入到对应的网络架构中,使用对预训练模型的搭建。目前Pytorch框架中可以下载多种模型,包括 ResNet、ResNeXt、Xception、MobileNetV2等。

2、微调与冻结

2.1 微调:主要用来调整网络模型结构以适应于当前实验的分类。

2.2 冻结:保证模型前几层参数(梯度系数、权重、偏置等参数不发生变化)、主要是加快模型的训练速度,也可以增加准确率的效果。

3、领域自适应

3.1 内容:将两个领域的数据映射到同一个域不变特征的空间,然后进行分布对齐,以解决域分布不一致的问题。通俗的讲就是相似化特征,缩小相同分类结果之间的差距。

3.2 常用方法:JDA、BDA、DDA等

JDA:Transfer Feature Learning with Joint Distribution Adaptation

BDA:Balanced Distribution Adaptation for Transfer Learning

DDA:Transfer Learning with Dynamic Distribution Adaptation

4、学习资料

此网站包含当前最新的研究论文、数据集、数据结果、对比试验等

网址:https://github.com/jindongwang/transferlearning

相关推荐
m4Rk_2 分钟前
【论文阅读】Agent 记忆机制(61):CFGM——用粗到细的记忆落地贯通经验采集、知识蒸馏与在线纠错
论文阅读·人工智能·学习·开源·github
微财经观圈6 分钟前
科希艾Cohere如何用Embed、Rerank与Chat重构企业知识问答的责任链条
人工智能·机器学习·重构
玫瑰互动GEO17 分钟前
腾讯AnswerBit(GEO优化监测平台)技术拆解:UI自动化如何采集真实AI回答
大数据·人工智能·ui·ai·自动化·geo优化
我是你的开心果77817 分钟前
ai全栈软件开发day21(第四阶段喽)
人工智能·学习
杰克尼18 分钟前
Vibe Coding-01
人工智能
LX5677719 分钟前
AI通识课教师选证:教师培训证书与通用AI应用认证如何考量?
人工智能
张彦峰ZYF23 分钟前
从“能调查”到“可持续调查”:长时网络安全智能体的工程化方法论
人工智能·claude code·agent sdk·长时网络安全智能体生产落地·证据收集+关联研判+调查报告·上下文与记忆管理·自动化评估
xiaohaiAIgeo24 分钟前
【2026年】通风柜面风速控制的时滞与补偿策略
人工智能·科普知识
小淮AI32 分钟前
AI远程操控电脑,距离日常办公还有多远?
人工智能·电脑
头发够用的程序员32 分钟前
别被 TOPS 参数迷惑:手把手推导边缘 GPU 整型算力
人工智能·python·ubuntu·计算机视觉·硬件架构·边缘计算