LN和BN

假设batch为2,(2,3,256,256)这样的样本

LN比较直观就是在每个独立的样本上计算均值和方差,然后归一化。(2,3,256,256)

归一化是将数据放缩到[0,1]或[-1,1]这样的区间内,标准化是让数据符合特定均值和方差的分布。

BN是按照一个batch中所有样本的通道计算均值和方差,它的计算单位是所有蓝色通道,所有黄色通道,所有红色通道。(2,3,256,256)

相关推荐
x_xbx28 分钟前
LeetCode:148. 排序链表
算法·leetcode·链表
Darkwanderor30 分钟前
三分算法的简单应用
c++·算法·三分法·三分算法
2401_831920741 小时前
分布式系统安全通信
开发语言·c++·算法
WolfGang0073211 小时前
代码随想录算法训练营 Day17 | 二叉树 part07
算法
温九味闻醉1 小时前
关于腾讯广告算法大赛2025项目分析1 - dataset.py
人工智能·算法·机器学习
炽烈小老头1 小时前
【 每天学习一点算法 2026/03/23】数组中的第K个最大元素
学习·算法·排序算法
老鱼说AI1 小时前
大规模并发处理器程序设计(PMPP)讲解(CUDA架构):第四期:计算架构与调度
c语言·深度学习·算法·架构·cuda
月落归舟2 小时前
帮你从算法的角度来认识数组------( 二 )
数据结构·算法·数组
阿贵---2 小时前
C++中的RAII技术深入
开发语言·c++·算法
NAGNIP2 小时前
面试官:深度学习中经典的优化算法都有哪些?
算法