迁移学习基础知识

简介

使用迁移学习的优势:

1、能够快速的训练出一个理想的结果

2、当数据集较小时也能训练出理想的效果。

注意:在使用别人预训练的参数模型时,要注意别人的预处理方式。

原理:

对于浅层的网络结构,他们学习到的角点信息和纹理信息都是通用的,将学习好的浅层网络的信息迁移到新的网络中,这样新的网络也拥有了识别底层通用特征的能力,从而能加快网络学习新的数据集的高维特征。

常见的迁移学习的方式:

1、载入权重后训练所有参数

2、载入权重后只训练最后基层参数

3、载入权重后在原网络基础上再添加一层全连接层,仅训练最后一个全连接层。

(设备有限且需要在很短时间内得到一个比较理想的结果使用第2或第3个方式;硬件设备不受限且希望得到一个最优的结果,使用第1种方式进行训练)

后续知识再接着补充。。。

相关推荐
猫头虎1 分钟前
什么是ZCode for GLM-5.2?
开发语言·人工智能·python·科技·算法·ai编程·ai写作
用户874033739147 分钟前
在 Ubuntu 22.04 最小化安装上部署与调优 Ollama 集群
人工智能
山林竹笋10 分钟前
人工智能领域开源TOP20(2026.06.22-2026.06.28)
人工智能·开源·大模型·智能体·技术趋势
深圳佛手11 分钟前
梁文锋说,AGI是首要目标。AGI和AI的区别是什么?
人工智能·机器学习
睿智的易哥11 分钟前
2026年AI+教育的加速跑:从政策到课桌的变革
人工智能
用户81818706274627 分钟前
第9章 编程接口与 RPC 协议
人工智能
互联网江湖41 分钟前
一加、realme“分家”,OPPO更宠谁?
人工智能
A153625543 分钟前
国内进销存软件排名2026 电商&零售企业选型指南
大数据·人工智能·零售
网易云信1 小时前
AI 提效的"组织悖论"——为什么个人越用越强,组织却看不到效果?
人工智能
魔镜er1 小时前
03-张量
人工智能·pytorch·python