LN和BN

假设batch为2,(2,3,256,256)这样的样本

LN比较直观就是在每个独立的样本上计算均值和方差,然后归一化。(2,3,256,256)

归一化是将数据放缩到[0,1]或[-1,1]这样的区间内,标准化是让数据符合特定均值和方差的分布。

BN是按照一个batch中所有样本的通道计算均值和方差,它的计算单位是所有蓝色通道,所有黄色通道,所有红色通道。(2,3,256,256)

相关推荐
我是中国人哦(⊙o⊙)15 分钟前
我的寒假作业
人工智能·算法·机器学习
.格子衫.29 分钟前
030动态规划之树形DP——算法备赛
算法·动态规划
胡萝卜不甜1 小时前
算法宗门--冒泡排序(“懒”到极致的算法)
算法
charliejohn1 小时前
计算机考研 408 数据结构 中缀转后缀
数据结构·考研·算法
lifallen1 小时前
后缀数组 (Suffix Array)
java·数据结构·算法
仰泳的熊猫1 小时前
题目1523:蓝桥杯算法提高VIP-打水问题
数据结构·c++·算法·蓝桥杯
汉克老师2 小时前
GESP2024年3月认证C++二级( 第三部分编程题(1) 乘法问题)
c++·算法·循环结构·gesp二级·gesp2级
juleskk2 小时前
2.18复试训练
算法
tankeven2 小时前
HJ94 记票统计
c++·算法
逆境不可逃2 小时前
LeetCode 热题 100 之 76.最小覆盖子串
java·算法·leetcode·职场和发展·滑动窗口