LN和BN

假设batch为2,(2,3,256,256)这样的样本

LN比较直观就是在每个独立的样本上计算均值和方差,然后归一化。(2,3,256,256)

归一化是将数据放缩到[0,1]或[-1,1]这样的区间内,标准化是让数据符合特定均值和方差的分布。

BN是按照一个batch中所有样本的通道计算均值和方差,它的计算单位是所有蓝色通道,所有黄色通道,所有红色通道。(2,3,256,256)

相关推荐
忡黑梨5 分钟前
eNSP_DHCP配置
c语言·网络·c++·python·算法·网络安全·智能路由器
陈壮实的搬砖日记19 分钟前
白话生成式推荐二:MiniOneRec之RQ-VAE
算法
陈壮实的搬砖日记33 分钟前
白话生成式推荐二:MiniOneRec之SFT
算法
她说彩礼65万44 分钟前
C语言 动态内存管理
c语言·开发语言·算法
Irene19911 小时前
数据排序为什么默认升序
算法·排序
.5481 小时前
DFS + BFS(深度优先搜索 & 广度优先搜索)
算法·深度优先·宽度优先
一行代码一行诗++1 小时前
转义字符和语句
c语言·开发语言·算法
算法鑫探1 小时前
算法与数据结构 以及算法复杂度
c语言·数据结构·算法·新人首发
数据牧羊人的成长笔记1 小时前
SVM与朴素贝叶斯算法+Kaggle竞赛+智能推荐系统+关联规则分析与Apriori算法+Gensim与LDA主题模型
算法·机器学习·支持向量机
拳里剑气1 小时前
C++算法:前缀和
开发语言·c++·算法·前缀和