leakyrelu

F_D_Z13 小时前
relu·leakyrelu
激活函数LeakyReLU目录数学表达式优缺点LeakyReLU是一种用于深度学习的激活函数，它解决了传统ReLU（修正线性单元）在输入小于0时输出为0的问题。ReLU函数，在x < 0 的范围内梯度恒为0，无法更新参数，这导致神经元“死亡”，不再对任何输入产生响应。