技术栈
adam
住在天上的云
9 个月前
笔记
·
深度学习
·
算法
·
动手学深度学习
·
adam
【深度学习笔记】优化算法——Adam算法
🏷sec_adam本章我们已经学习了许多有效优化的技术。 在本节讨论之前,我们先详细回顾一下这些技术:
又见阿郎
1 年前
优化算法
·
sgd
·
adam
聊聊神经网络的优化算法
优化算法主要用于调整神经网络中的超参数,使得训练数据集上的损失函数尽可能小。其核心逻辑是通过计算损失函数对参数的梯度(导数)来确定参数更新方向。