LN和BN

假设batch为2,(2,3,256,256)这样的样本

LN比较直观就是在每个独立的样本上计算均值和方差,然后归一化。(2,3,256,256)

归一化是将数据放缩到0,1-1,1这样的区间内,标准化是让数据符合特定均值和方差的分布。

BN是按照一个batch中所有样本的通道计算均值和方差,它的计算单位是所有蓝色通道,所有黄色通道,所有红色通道。(2,3,256,256)

相关推荐
想吃火锅100525 分钟前
【leetcode】56.合并区间js
算法·leetcode·职场和发展
imuliuliang27 分钟前
可合并堆在多任务调度中的优势与实现技巧7
算法
学究天人27 分钟前
数学公理体系大全:Comprehensive Collection of Mathematical Axiom Systems(卷6)
网络·算法·数学建模·动态规划·几何学·图论·拓扑学
wabs66634 分钟前
关于动态规划【力扣72.编辑距离的思考】
算法·leetcode·动态规划
用户333239768841 小时前
我做了一个 RepoMind:让 AI 写架构前,先去看看真实开源项目
算法
chh5631 小时前
C++--list
开发语言·数据结构·c++·学习·算法·list
killerbasd1 小时前
总结 7。10
人工智能·算法·机器学习
林间码客1 小时前
RAG系统评估指南:从入门到实践
人工智能·算法·机器学习
凌波粒1 小时前
LeetCode--47.全排列 II(回溯算法)
算法·leetcode·职场和发展
学究天人1 小时前
数学公理体系大全:Comprehensive Collection of Mathematical Axiom Systems(卷8)
线性代数·算法·机器学习·数学建模·动态规划·图论·抽象代数