Datawhale X 李宏毅苹果书 AI夏令营_深度学习基础学习心得Task2

本次学习主要针对自适应学习率;介绍了Adagrad,RMSprop和Adam优化器

1、为什么需要自适应学习率:

训练一个网络,在走到临界点的时候损失不再下降,而梯度并没有变得很小。相当于下坡路在两步之间,而步子迈大了,直接把下坡路跳过了,又走到上坡路上了。在这时候就需要把学习率(步幅)调低一点让梯度继续下降。

但是常规的 学习率下降方法是不够用的,我们希望在梯度大的时候走慢点,在梯度小的时候走快点,所以需要引入自适应学习率

2、Adagrad

Adagrad就可以做到上述的功能。更新公式:

其中η/σ这一项是不断更新的学习率,σ又随着迭代不断更新,新的σ来自之前每次迭代的梯度。根据公式可以看到梯度g小了,σ就小了,η/σ就大了,反之亦然。

3、RMSprop

公式:

可以看到每一阶段的σ都来自于继承于前一阶段,所以这种算法也是包含了过往所有的梯度信息,与Adagrad不同的是α是一个可以调整的超参数,可以根据需要来调整当前梯度的重要程度,如果设置α比较小,则代表比较侧重于当前梯度,在梯度下降大的时候可以很快的刹车。

4、Adam

Adam 可以看作 RMSprop 加上动量,其使用动量作为参数更新方向,并且能够自适应调整学习率。

5、学习率退火、预热

在训练后期遇到了梯度很小,而距离很近的情况时,积累的σ会变得很小,步伐会变得很大,导致往其他方向走,虽然能够修正回来,但是我们希望避免这种情况

因此引入学习率退火,即实时调整η大小,让η随着迭代不断变小,步伐也可以不断变小。

预热的方法是让学习率先变大后变小

##########################

本次学习了不同优化器调整学习率的策略,在我做课题的时候一般都是用Adam,问了别人也都说时Adam最好用,通过本次学习深入了解了它为什么好。通过查询资料了解到RMSprop更适合CNN网络,因为RMSprop 的平滑效果有助于加快收敛速度,以及RNN,因为这些模型的梯度更新具有较强的波动性;Adagrad更适合例如文本分类、自然语言处理(NLP)中的词嵌入训练等场景,因为不同的词汇或特征可能出现的频率差异很大。

相关推荐
max50060024 分钟前
基于深度学习的污水新冠RNA测序数据分析系统
开发语言·人工智能·python·深度学习·神经网络
Sunhen_Qiletian24 分钟前
计算机视觉前言-----OpenCV库介绍与计算机视觉入门准备
人工智能·opencv·计算机视觉
数字游名Tomda1 小时前
OpenAI推出开源GPT-oss-120b与GPT-oss-20b突破性大模型,支持商用与灵活部署!
人工智能·经验分享·gpt
max5006001 小时前
深度学习的视觉惯性里程计(VIO)算法优化实践
人工智能·深度学习·算法
坐在地上想成仙1 小时前
计算机视觉(3)深度学习模型部署平台技术选型与全栈实践指南
人工智能·深度学习
小王爱学人工智能3 小时前
5分钟了解OpenCV
人工智能·opencv·计算机视觉
GetcharZp3 小时前
让 AI 更聪明:Prompt 的秘密武器 + 30 个实用模板
人工智能
无规则ai3 小时前
动手学深度学习(pytorch版):第一章节——引言
人工智能·pytorch·深度学习·算法·机器学习
格林威4 小时前
工业相机使用 YOLOv8深度学习模型 及 OpenCV 实现目标检测简单介绍
人工智能·深度学习·数码相机·opencv·yolo·目标检测·计算机视觉
牛客企业服务4 小时前
AI面试系统助手深度评测:6大主流工具对比分析
数据库·人工智能·python·面试·职场和发展·数据挖掘·求职招聘