参数初始化

Francek Chen1 个月前
人工智能·pytorch·深度学习·神经网络·参数初始化·梯度消失和爆炸
【深度学习基础】多层感知机 | 数值稳定性和模型初始化【作者主页】Francek Chen 【专栏介绍】 ⌈ ⌈ ⌈PyTorch深度学习 ⌋ ⌋ ⌋ 深度学习 (DL, Deep Learning) 特指基于深层神经网络模型和方法的机器学习。它是在统计机器学习、人工神经网络等算法模型基础上,结合当代大数据和大算力的发展而发展出来的。深度学习最重要的技术特征是具有自动提取特征的能力。神经网络算法、算力和数据是开展深度学习的三要素。深度学习在计算机视觉、自然语言处理、多模态数据分析、科学探索等领域都取得了很多成果。本专栏介绍基于PyTorch的深度学习算法实现
开出南方的花3 个月前
人工智能·pytorch·深度学习·神经网络·激活函数·relu·参数初始化
深度学习-神经网络基础-激活函数与参数初始化(weight, bias)人工神经网络是一种模仿生物神经网络结构和功能的计算模型, 由神经元构成将神经元串联起来 -> 神经网络
Nicolas8934 个月前
深度学习·神经网络·损失函数·参数初始化·深度学习模型训练·规范化
【大模型理论篇】大模型相关的周边技术分享-关于《NN and DL》的笔记本文所要介绍的一本书《Neural Networks and Deep Learning》,该书作者Michael Nielsen,Y Combinator Research的研究员,是多年之前自己看的一本基础书籍,很适合入门了解一些关于深度学习的概念知识,当然也包含了一些小的案例。刚好有篇当年存档的小笔记,做一下分享。
诸神缄默不语1 年前
人工智能·深度学习·神经网络·权重初始化·参数初始化·xavier初始化·glorot初始化
神经网络权重初始化诸神缄默不语-个人CSDN博文目录(如果只想看代码,请直接跳到“方法”一节,开头我介绍我的常用方法,后面介绍具体的各种方案)