LN和BN

假设batch为2,(2,3,256,256)这样的样本

LN比较直观就是在每个独立的样本上计算均值和方差,然后归一化。(2,3,256,256)

归一化是将数据放缩到[0,1]或[-1,1]这样的区间内,标准化是让数据符合特定均值和方差的分布。

BN是按照一个batch中所有样本的通道计算均值和方差,它的计算单位是所有蓝色通道,所有黄色通道,所有红色通道。(2,3,256,256)

相关推荐
lvxiangyu116 小时前
MPPI 算法证明重构:基于无穷维泛函变分与 KL 散度的构造性推导
算法·重构·最优控制·随机最优控制
2301_818419017 小时前
C++中的解释器模式变体
开发语言·c++·算法
ab1515177 小时前
3.25完成*23、*24、*28、*30、*33、*38、*39、*40
算法
颜酱7 小时前
回溯算法实战练习(3)
javascript·后端·算法
小王不爱笑1328 小时前
G1 GC 的核心基础:Region 模型的补充细节
java·jvm·算法
小王不爱笑1329 小时前
三色标记算法
算法
小O的算法实验室9 小时前
2026年AST SCI1区TOP,基于速度障碍法的多无人机三维避障策略,深度解析+性能实测
算法·论文复现·智能算法·智能算法改进
U-52184F6910 小时前
深入理解“隐式共享”与“写时复制”:从性能魔法到内存深坑
java·数据库·算法
pp起床10 小时前
Part02:基本概念以及基本要素
大数据·人工智能·算法
lzh2004091910 小时前
红黑树详解
算法