LN和BN

假设batch为2,(2,3,256,256)这样的样本

LN比较直观就是在每个独立的样本上计算均值和方差,然后归一化。(2,3,256,256)

归一化是将数据放缩到[0,1]或[-1,1]这样的区间内,标准化是让数据符合特定均值和方差的分布。

BN是按照一个batch中所有样本的通道计算均值和方差,它的计算单位是所有蓝色通道,所有黄色通道,所有红色通道。(2,3,256,256)

相关推荐
阿洛学长7 分钟前
汉洛塔结构思维
算法
木子n113 分钟前
第2篇:坐标变换与数学基础:FOC算法的核心数学工具
算法·电机控制·foc
阿Y加油吧26 分钟前
两道经典 DP 题:零钱兑换 & 单词拆分(完全背包 + 字符串 DP)
算法
疯狂打码的少年34 分钟前
有序线性表删除一个元素:顺序存储 vs 单链表,平均要移动多少个元素?
数据结构·算法·链表
y = xⁿ1 小时前
20天速通LeetCode day07:前缀和
数据结构·算法·leetcode
载数而行5201 小时前
算法集训1:模拟,枚举,错误分析,前缀和,差分
算法
hehelm2 小时前
vector模拟实现
前端·javascript·算法
Tina学编程2 小时前
[HOT 100]今日一练------划分字母区间
算法·hot 100
RTC老炮2 小时前
RaptorQ前向纠错算法架构分析
网络·算法·架构·webrtc
故事和你912 小时前
洛谷-数据结构1-1-线性表2
开发语言·数据结构·算法·动态规划·图论