LN和BN

假设batch为2,(2,3,256,256)这样的样本

LN比较直观就是在每个独立的样本上计算均值和方差,然后归一化。(2,3,256,256)

归一化是将数据放缩到[0,1]或[-1,1]这样的区间内,标准化是让数据符合特定均值和方差的分布。

BN是按照一个batch中所有样本的通道计算均值和方差,它的计算单位是所有蓝色通道,所有黄色通道,所有红色通道。(2,3,256,256)

相关推荐
菜鸡儿齐28 分钟前
leetcode-电话号码的字母组合
算法·leetcode·职场和发展
We་ct1 小时前
LeetCode 236. 二叉树的最近公共祖先:两种解法详解(递归+迭代)
前端·数据结构·算法·leetcode·typescript
小白菜又菜1 小时前
Leetcode 229. Majority Element II
算法·leetcode·职场和发展
Frostnova丶1 小时前
LeetCode 1461. 检查一个字符串是否包含所有长度为 K 的二进制子串
算法·leetcode·哈希算法
历程里程碑1 小时前
普通数组---合并区间
java·大数据·数据结构·算法·leetcode·elasticsearch·搜索引擎
Felven2 小时前
B. 250 Thousand Tons of TNT
算法
victory04312 小时前
PPO GAE优势函数演化和推导
算法
Jasmine_llq2 小时前
《P3572 [POI 2014] PTA-Little Bird》
算法·滑动窗口·单调队列·动态规划(dp)·多组查询处理·循环优化(宏定义 rep)
tankeven2 小时前
HJ101 排序
c++·算法
流云鹤2 小时前
动态规划02
算法·动态规划