深度学习:手动调整学习率

一,等间隔调整学习率

步长相同,操作简单。

二,指定间隔调整学习率

自己指定,自由度高,但是可能不准

三,指数调整学习率

lr新 = lr旧 * 0.9 ^ epoch

占资源,剩下的全是优点,符合训练规律,前期快,后期慢

相关推荐
优化Henry3 小时前
学习笔记之关于MME不通问题归纳
运维·网络·学习·5g·信息与通信
M78佐菲10 小时前
51单片机学习笔记:ds18b20要点整理
linux·笔记·嵌入式硬件·学习·51单片机
高亦真10 小时前
今天是学习嵌入式的第37天
linux·学习·算法
泡泡鱼(敲代码中)13 小时前
Python 字符串 str 完整学习笔记
python·学习
kyrie_sakura15 小时前
python学习笔记15 -- Anaconda,Jupyter,numpy
python·学习·jupyter·numpy
PC2005-cloud17 小时前
Rust学习笔记:控制流——if、loop、while、for与match
笔记·学习·rust
彧azz17 小时前
DFS与BFS:图遍历的两大核心算法
数据结构·学习·算法·深度优先·广度优先
kyrie_sakura18 小时前
python学习笔记14 -- FastAPI
笔记·python·学习·fastapi
来两个炸鸡腿18 小时前
【Datawhale2609】算子开发实战 task01-熟悉沐曦GPU
人工智能·学习·大模型
传奇开心果编程19 小时前
【Xilem 0.4 基础语法学与练】第11课(深入篇):为什么其他 Rust 框架不是一切皆设计图
学习·rust·前端框架