1. 迁移学习概念
-
核心思想:利用预训练模型作为基础,在其基础上进行微调,而非从零开始训练。就像造直升机时参考苏联工程师的设计,或高考时参考状元的答卷进行修改。
-
优势:当数据量较少时(如花朵分类任务),直接使用ImageNet等大数据集预训练的特征提取能力,可以显著提升模型性能。
-
关键比喻:
- 造原子弹:从零开始极其困难,但基于前人研究就相对可行
- 学自行车:父亲先扶着骑(预训练),然后逐渐放手(微调)
- 高考答卷:参考状元答案框架(特征提取),但修改具体内容(输出层)
预训练模型
预训练模型:esnet、alexnet、vgg等