神经网络常见操作(卷积)输入输出

卷积

  • dim=d的tensor可以进行torch.nn.Convnd(in_channels,out_channels),其中n=d-1,d-2
  • 对于torch.nn.Convnd(in_channels,out_channels),改变的是tensor的倒数n+1维的大小

全连接

  • 使用torch.nn.Linear(in_features,out_features,bias)实现
  • Y=XW^T^ +b,其中X 的形状为 (batch_size,in_features),而 W ^T^的形状为 (in_features,out_features),b 的形状为 (out_features),在加法操作中会自动扩展为 (batch_size,out_features)。
  • 在 PyTorch 中,torch.nn.Linear 的权重矩阵W不需要手动设置,它会在初始化时自动生成并进行默认的初始化,使用均匀分布或正态分布(由参数设定)
  • 偏置向量 b 默认为全零
相关推荐
AI趋势预见21 分钟前
AAPM:基于大型语言模型代理的资产定价模型,夏普比率提高9.6%
人工智能·深度学习·神经网络·语言模型·自然语言处理
羊小猪~~1 小时前
深度学习基础--GRU学习笔记(李沐《动手学习深度学习》)
人工智能·rnn·深度学习·学习·机器学习·gru·lstm
深图智能2 小时前
PyTorch使用教程(4)-torch.nn
人工智能·pytorch·深度学习
smartcat20102 小时前
Lora理解&QLoRA
深度学习
yuanbenshidiaos2 小时前
【大数据】机器学习----------集成学习
大数据·机器学习·集成学习
伊一大数据&人工智能学习日志3 小时前
机器学习经典无监督算法——聚类K-Means算法
人工智能·算法·机器学习
游王子3 小时前
机器学习(3):逻辑回归
人工智能·机器学习·逻辑回归
dwjf3214 小时前
神经网络基础-正则化方法
人工智能·深度学习·神经网络
沙漏AI机器人4 小时前
【20250115】Nature子刊:柔性生物传感与深度学习结合的上肢运动增强外骨骼机器人...
人工智能·深度学习·机器人