LN和BN

假设batch为2,(2,3,256,256)这样的样本

LN比较直观就是在每个独立的样本上计算均值和方差,然后归一化。(2,3,256,256)

归一化是将数据放缩到[0,1]或[-1,1]这样的区间内,标准化是让数据符合特定均值和方差的分布。

BN是按照一个batch中所有样本的通道计算均值和方差,它的计算单位是所有蓝色通道,所有黄色通道,所有红色通道。(2,3,256,256)

相关推荐
songx_993 分钟前
leetcode18(无重复字符的最长子串)
java·算法·leetcode
max5006001 小时前
实时多模态电力交易决策系统:设计与实现
图像处理·人工智能·深度学习·算法·音视频
其古寺1 小时前
贪心算法与动态规划:数学原理、实现与优化
算法·贪心算法·动态规划
rit84324992 小时前
基于灰狼算法(GWO)优化支持向量回归机(SVR)参数C和γ的实现
c语言·算法·回归
蒋士峰DBA修行之路2 小时前
实验五 静态剪枝
数据库·算法·剪枝
蒋士峰DBA修行之路2 小时前
实验六 动态剪枝
数据库·算法·剪枝
Tim_102 小时前
【算法专题训练】20、LRU 缓存
c++·算法·缓存
B612 little star king3 小时前
力扣29. 两数相除题解
java·算法·leetcode
野犬寒鸦3 小时前
力扣hot100:环形链表(快慢指针法)(141)
java·数据结构·算法·leetcode·面试·职场和发展
时光追逐者3 小时前
C# 哈希查找算法实操
算法·c#·哈希算法