梯度爆炸

模型训练中出现loss为NaN怎么办？在训练的某个阶段，学习率可能设置得过高，导致模型参数更新幅度过大，甚至可能出现数值不稳定的情况。你可以尝试降低学习率，并观察训练过程中的变化。

深度学习中的梯度消失和梯度爆炸问题在深度学习领域，随着模型层数的增加，我们常常会遇到两个棘手的问题：梯度消失（Vanishing Gradients）和梯度爆炸（Exploding Gradients）。这两个问题严重影响了深度神经网络的训练效率和性能。本文将详细介绍这两个问题，并通过实例帮助读者更好地理解。

训练深度神经网络，使用反向传播算法，产生梯度消失和梯度爆炸问题的原因？🍉 CSDN 叶庭云：https://yetingyun.blog.csdn.net/反向传播是神经网络训练的精髓。它是根据上一个迭代获得的误差（即损失）对神经网络的权重进行微调的做法。权重的适当调整可确保较低的误差，从而通过提高模型的泛化能力使其变得可靠。反向传播算法的核心思想和工作原理可分为以下几个方面：

【神经网络基本知识整理】（激活函数） && （梯度＋梯度下降＋梯度消失＋梯度爆炸）我们知道神经网络中前一层与后面一层的连接可以用y = wx + b表示，这其实就是一个线性表达，即便模型有无数的隐藏层，简化后依旧是上述的线性表达式，那么模型的拟合能力非常受限。因此引入了激活函数σ，y = σ(wx + b)，使得模型能够拟合非线性的问题。常用的激活函数详解可参考👉激活函数详解 ///激活函数详解