LN和BN

假设batch为2,(2,3,256,256)这样的样本

LN比较直观就是在每个独立的样本上计算均值和方差,然后归一化。(2,3,256,256)

归一化是将数据放缩到[0,1]或[-1,1]这样的区间内,标准化是让数据符合特定均值和方差的分布。

BN是按照一个batch中所有样本的通道计算均值和方差,它的计算单位是所有蓝色通道,所有黄色通道,所有红色通道。(2,3,256,256)

相关推荐
xushichao19892 分钟前
代码生成优化技术
开发语言·c++·算法
炽烈小老头10 分钟前
【每天学习一点算法 2026/03/22】前 K 个高频元素
学习·算法
2401_8732046516 分钟前
模板编译期循环展开
开发语言·c++·算法
木心月转码ing16 分钟前
Hot100-Day51-TT70爬楼梯
算法
NAGNIP16 分钟前
一文搞懂经典的优化算法都有哪些?
算法
CoovallyAIHub19 分钟前
2.5GB 塞进浏览器:Mistral 开源实时语音识别,延迟不到半秒
深度学习·算法·计算机视觉
会编程的土豆25 分钟前
C++中的 lower_bound 和 upper_bound:一篇讲清楚
java·数据结构·算法
NAGNIP25 分钟前
一文搞懂深度学习中的损失函数设计!
人工智能·算法
阿里嘎多哈基米27 分钟前
速通Hot100-Day09——二叉树
算法·leetcode·二叉树·hot100
Frostnova丶30 分钟前
LeetCode 48 & 1886.矩阵旋转与判断
算法·leetcode·矩阵