吴恩达机器学习笔记 二十一 迁移学习 预训练

迁移学习(transfer learning):直接把神经网络拿来,前面的参数可以直接用,把最后一层改了。

两种训练参数的方式:

1.只训练输出层的参数

2.训练所有参数

当只有一个小数据集的时候,第一种方法很好;若数据集稍微大一些的话第二个方法更好。

两个步骤:

监督预训练(supervised pretraining):在一个大数据集上训练,得到参数

微调(fine tuning):进一步训练,微调权重以适应具体的应用

迁移学习的另一个优点:可以直接用别人训练好的神经网络

迁移学习为什么有用? 例如图像识别来说,一个识别猫狗的神经网络的某些隐藏层可能是用来识别边界、识别线条,这些都是一些基本的操作,所以也可以直接用来识别手写数字。

相关推荐
沐尘而生7 分钟前
【AI智能体】智能音视频-硬件设备基于 WebSocket 实现语音交互
大数据·人工智能·websocket·机器学习·ai作画·音视频·娱乐
巴伦是只猫11 分钟前
【机器学习笔记Ⅰ】3 代价函数
人工智能·笔记·机器学习
ZZZS051613 分钟前
stack栈练习
c++·笔记·学习·算法·动态规划
路溪非溪1 小时前
机器学习:更多分类回归算法之决策树、SVM、KNN
机器学习·分类·回归
AI视觉网奇2 小时前
rag学习笔记
笔记·学习
神经星星4 小时前
专治AI审稿?论文暗藏好评提示词,谢赛宁呼吁关注AI时代科研伦理的演变
人工智能·深度学习·机器学习
teeeeeeemo4 小时前
http和https的区别
开发语言·网络·笔记·网络协议·http·https
wuxuanok4 小时前
Web后端开发-Mybatis
java·开发语言·笔记·学习·mybatis
卷到起飞的数分5 小时前
Java零基础笔记07(Java编程核心:面向对象编程 {类,static关键字})
java·开发语言·笔记
iFulling5 小时前
【计算机网络】第三章:数据链路层(下)
网络·笔记·计算机网络