-
Batch Normalization 可以
改善梯度消失/爆炸问题
:前面层的梯度经过多次传递后会变得非常小(大),从而导致网络收敛速度慢(不收敛),应用 BN 可缓解加速网络收敛
:BN 使得每个神经元的输入分布更加稳定减少过拟合
:BN 可减少由于数据分布的变化导致的模型性能下降提高模型泛化能力
:BN 使得模型对输入的微小变化更加稳定缓解超参敏感
:对于 learning rate 等超参数敏感性降低- ...
-
Batch Normalization(BN):使 feature map 满足均值为 0,方差为 1 的分布规律
- 如果batch size为m,则在前向传播过程中,网络中每个节点都有m个输出,所谓的Batch Normalization,就是对该层每个节点的这m个输出进行归一化再输出
- 数学表达:每个 channel 下统计一个对应的均值和方差
x norm = x − E [ x ] V a r [ x ] + ϵ ∗ γ + β x_{\text{norm}} = \frac{x - \mathbb{E}[x]}{\sqrt{Var[x]+\epsilon}} * \gamma + \beta xnorm=Var[x]+ϵ x−E[x]∗γ+β- 其中 γ , β \gamma, \beta γ,β 为可学习的参数
-
代码实践:
python3>>> import torch >>> import torch.nn as nn >>> >>> x = torch.rand(2,1,28,28) ## *0.创建输入 x >>> bn = nn.BatchNorm2d( ## *1. 创建 bn 层, 1, # -- 输入的 channel 数 training = False, # -- 是否为训练模式 affine = False) # -- 是否学习 γ β >>> out = bn(x) ## *2 获取输出 >>> # 查看相关数值 ------------------------------------------------ >>> bn.running_mean # 均值 tensor([0.0507]) >>> bn.running_var # 方差 tensor([0.9080]) >>> bn.weight # γ Parameter containing: tensor([1.], requires_grad=True) >>> bn.bias # β Parameter containing: tensor([0.], requires_grad=True)
PyTorch -- Batch Normalization(BN) 快速实践
CODE_RabbitV2024-06-16 5:05
相关推荐
xiaoxiaoxiaolll2 小时前
期刊速递 | 《Light Sci. Appl.》超宽带光热电机理研究,推动碳纳米管传感器在制药质控中的实际应用练习两年半的工程师2 小时前
AWS TechFest 2025: 风险模型的转变、流程设计的转型、生成式 AI 从实验走向实施的三大关键要素、评估生成式 AI 用例的适配度Elastic 中国社区官方博客4 小时前
Elasticsearch:智能搜索的 MCPstbomei4 小时前
从“能说话”到“会做事”:AI Agent如何重构日常工作流?yzx9910135 小时前
生活在数字世界:一份人人都能看懂的网络安全生存指南许泽宇的技术分享6 小时前
LangGraph深度解析:构建下一代智能Agent的架构革命——从Pregel到现代AI工作流的技术飞跃乔巴先生246 小时前
LLMCompiler:基于LangGraph的并行化Agent架构高效实现静西子7 小时前
LLM大语言模型部署到本地(个人总结)cxr8287 小时前
基于Claude Code的 规范驱动开发(SDD)指南Billy_Zuo8 小时前
人工智能机器学习——决策树、异常检测、主成分分析(PCA)