技术栈

LN和BN

HRU_39122024-01-05 11:06

假设batch为2,(2,3,256,256)这样的样本

LN比较直观就是在每个独立的样本上计算均值和方差,然后归一化。(2,3,256,256)

归一化是将数据放缩到0,1或-1,1这样的区间内,标准化是让数据符合特定均值和方差的分布。

BN是按照一个batch中所有样本的通道计算均值和方差,它的计算单位是所有蓝色通道,所有黄色通道,所有红色通道。(2,3,256,256)

上一篇:前端中级算法题
下一篇:Text-to-SQL小白入门(十一)DAIL-SQL教你刷Spider榜单第一
相关推荐
稚南城才子,乌衣巷风流
2 小时前
ST 表(Sparse Table)算法详解:原理、实现与应用
算法
hold?fish:palm
2 小时前
9 找到字符串中所有字母异位词
c++·算法·leetcode
Sw1zzle
2 小时前
算法入门(六):贪心算法 - 基础入门(Leetcode 121/455/860/376/738)
算法·leetcode·贪心算法
青山木
2 小时前
Hot 100 --- 岛屿数量
java·数据结构·算法·leetcode·深度优先·广度优先
不会就选b
2 小时前
算法日常・每日刷题--<归并排序>1
数据结构·算法
危桥带雨
3 小时前
排序算法(快排、归并、计数、基数排序)
数据结构·算法·排序算法
啦啦啦啦啦zzzz
3 小时前
算法:回溯算法
c++·算法·leetcode
IT探索
3 小时前
Linux 查找文件指令总结
linux·算法
攻城狮Soar
3 小时前
C++子类访问父类成员
c++·算法
热门推荐
012026年7月AI圈大地震:GPT-5.6被政府限制、Claude入驻Slack、Anthropic自研芯片02GitHub 镜像站点03如何新建文件夹? 电脑新建文件夹的4种方法04AI科技热点日报 | 2026年07月01日05幻兽帕鲁 - 服务器管理员权限与 GM 命令完全指南06国内可直接用、免费额度/永久免费的大模型API清单(含 SiliconFlow、火山、阿里、智谱、百度、Kimi、DeepSeek、DMXAPI 等)07AI 编程 IDE 全景解析 2026:Agent 全面接管开发链路082026 国产 AI 大模型横评:DeepSeek、通义千问、Kimi、文心一言、星火、豆包谁更能打?092026 年 AI 大模型 & AI 编程工具实战全总结10【解构】DeepSeek V4 发布:技术报告深度解读 + 横向对比六大开源模型,我们的判断是……