机器学习-深度神经网络架构

深度网络微调

  • 深度学习(DL)是一门用于从数据中提取信息的编程语言
    1、一些值会在之后被数据填充
    2、可微
  • 很多设计模式,从层到网络结构

Batch Normalization(批量归一化,BN)

  • 标准化数据使线性方法的损失函数更平滑
    1、平滑:∣∣▽f(x)−▽f(y)∣∣2≤β∣∣x−y∣∣2||\triangledown f(x)-\triangledown f(y)||^2\le\beta||x-y||^2∣∣▽f(x)−▽f(y)∣∣2≤β∣∣x−y∣∣2,梯度的大小小于x与y之间距离的β\betaβ倍
    2、小的β\betaβ值允许一个更大的学习率
    3、不会帮助深度神经网络
  • 批量归一化(BN)把中间内部层的输入也进行标准化

步骤

  • 变形reshape
    把输入X变成一个2D的矩阵(若不是2D的)
    X∈Rn∗c∗w∗h→X′∈Rnwh∗cX\isin\reals^{n*c*w*h}\to X'\isin\reals^{nwh*c}X∈Rn∗c∗w∗h→X′∈Rnwh∗c(batch n,channel c,width w,height h)
  • 标准化Normalization
    把每一列标准化
    xˆj′←(xj′−mean(xj′))/std(xj′)\^{x}^{'}_j\gets(x^{'}_j-mean(x^{'}_j))/std(x^{'}_j)xˆj′←(xj′−mean(xj′))/std(xj′)
  • recovery
    有Y′Y'Y′,其中yj′=γjxˆj+βjy^{'}_j=\gamma_j\^x_j+\beta_jyj′=γjxˆj+βj作为第j列,γj和βj\gamma_j和\beta_jγj和βj是可学习的参数
  • 输出YYY,通过reshapeY′Y'Y′将其还原回之前的格式

代码

python 复制代码
def batch_norm(X,gamma,beta,moving_mean,moving_var,eps,momentum):
	if not torch.is_grad_enabled():
		X_hat = (X-moving_mean)/torch.sqrt(moving_var+eps)
	else:
		assert len(X.shape) in (2,4)
		if len(X.shape)==2:
			mean = X.mean(dim=0)
			var = ((X-mean)**2).mean(dim=0)
		else:
			mean = X.mean(dim=(0,2,3),keepdim=True)
			var = ((X-mean)**2).mean(dim=(0,2,3),keepdim=True)
		X_hat = (X-mean)/torch.sqrt(var+eps)
		moving_mean = momentum*moving_mean + (1.0-momentum)*mean
		moving_var = momentum*moving_var + (1.0-momentum)*var
	Y = gamma*X_hat + beta
	return Y,moving_mean,moving_var

Layer Normalization(层归一化)

  • 若应用于RNN,BN在每个时间步需要维持离散的移动数据(在每个时间步学习的那些参数不要共享)
    在推理时处理很长的数据时是有问题的
  • 层归一化reshape输入X∈Rn∗p→X′∈Rp∗nX\isin\reals^{n*p}\to X'\isin\reals^{p*n}X∈Rn∗p→X′∈Rp∗n,X∈Rn∗c∗w∗h→ X′∈Rcwh∗nX\isin\reals^{n*c*w*h}\to\ X'\isin\reals^{cwh*n}X∈Rn∗c∗w∗h→ X′∈Rcwh∗n,其他的与BN相同
    1、在每个样例中归一化,直到目前的时间步
    2、在训练和推理时是一致的
    3、多在Transformers中应用
相关推荐
狂师13 分钟前
牛逼!谷歌亲自下场开源的AI自动化神器!
人工智能·开源·测试
金融小师妹1 小时前
多因子关联模型:黄金与铜价同步回落背后的金融变量及PPI传导分析
大数据·人工智能·金融
ZhengEnCi1 小时前
中美AI竞赛之外其他国家在干什么:算力5%的欧洲、买卡的沙特与做场景的日韩
人工智能·gpu·nvidia
对你无可奈何9 小时前
给 ComfyUI 做了一个手机助手
人工智能
feasibility.10 小时前
英伟达把物理AI的3D模型“应用商店”开放了:2575个SimReady仿真资产,总计约472GB,可让agent装配机器人训练场景
人工智能·3d·机器人·仿真·建模·具身智能·英伟达
智联视频超融合平台11 小时前
消防宣传月过半,“AI+消防“给视频平台换了张考卷
人工智能·边缘计算·视频监控·安防·视频联网
冬奇Lab11 小时前
一天一个开源项目(第262篇):AG-UI —— 把 AI Agent 接进前端的开放协议,和 MCP、A2A 并列的第三块拼图
人工智能·开源
罗西的思考12 小时前
【轻量化复现大模型 / KIMI K3】MTP / EAGLE‑3 模块交互式演示
人工智能·深度学习·算法
RobinDevNotes13 小时前
Claude Code 剪视频,不上传、不要 API Key
人工智能·python·音视频·开发工具·ipython
stormzhangV13 小时前
Coding Agent,通往 AGI 的重要一环
人工智能·agent·ai编程