假设batch为2，（2，3，256，256）这样的样本
LN比较直观就是在每个独立的样本上计算均值和方差，然后归一化。（2，3，256，256）
归一化是将数据放缩到0,1或-1,1这样的区间内，标准化是让数据符合特定均值和方差的分布。
BN是按照一个batch中所有样本的通道计算均值和方差，它的计算单位是所有蓝色通道，所有黄色通道，所有红色通道。（2，3，256，256）
相关推荐
飞Link17 小时前
什么是 AirSim？一文读懂无人机仿真平台一去不复返的通信er19 小时前
贪心算法-合并区间（LeetCode 56）Shaoshing20 小时前
LeetCode100 49. 字母异位词分组YFJ_mily20 小时前
第二届区块链技术与基础模型国际学术会议(BTFM2027)汤姆宝库20 小时前
收官深拆：第一性原理、产业电网与未来推演moshuying1 天前
块扩散 + GDN 改造：Clover 把「并行生成」塞进了 Agent 的长上下文里没落之王1 天前
历史系统建模:宋初太祖太宗「再立天庭」秩序重构推演INGNIGHT1 天前
91 · 最小调整代价(序列dp)moshuying1 天前
扩散模型开始写代码、开网页了：350 亿参数，速度比 Jev 快一倍