技术栈
xavier初始化
nju_spy
14 天前
人工智能
·
深度学习
·
神经网络
·
反向传播
·
xavier初始化
·
cnn卷积神经网络
·
pytorch实践
NJU-SME 人工智能(四)深度学习(架构+初始化+过拟合+CNN)
从传统机器学习固定特征提取器,到深度学习可学习特征,模型表达能力实现质的飞跃,但也带来训练优化、参数设置等一系列挑战。
东经116度
3 个月前
深度学习
·
机器学习
·
xavier初始化
·
全零初始化
·
随机初始化
·
he初始化
权重初始化方法详解
权重初始化是深度学习模型训练中至关重要的一环。不恰当的初始化会导致:将所有权重参数初始化为0。对于权重矩阵 W∈Rn×mW \in \mathbb{R}^{n \times m}W∈Rn×m: Wij=0∀i,j W_{ij} = 0 \quad \forall i,j Wij=0∀i,j 对于偏置项 b∈Rmb \in \mathbb{R}^{m}b∈Rm: bj=0∀j b_j = 0 \quad \forall j bj=0∀j
诸神缄默不语
2 年前
人工智能
·
深度学习
·
神经网络
·
权重初始化
·
参数初始化
·
xavier初始化
·
glorot初始化
神经网络权重初始化
诸神缄默不语-个人CSDN博文目录(如果只想看代码,请直接跳到“方法”一节,开头我介绍我的常用方法,后面介绍具体的各种方案)
我是有底线的