神经网络的常用layer

卷积层

nn.Conv1d

池化层

下采样层主要是使用pooling层的操作技术来实现的,目的主要是保存有效的信息,降低特征的维度,来避免过拟合。对一个M*N的图像,进行s倍的下采样,对长和宽来说各要缩小s倍

全连接层

nn.Linear

(70 封私信 / 85 条消息) 全连接层的作用是什么? - 知乎 (zhihu.com)

复制代码
torch.nn.Linear(in_features, # 输入的神经元个数
           out_features, # 输出神经元个数
           bias=True # 是否包含偏置
           )
nn.Linear(2, 1) # 输入特征数为2,输出特征数为1

Pytorch nn.Linear的基本用法与原理详解_iioSnail的博客-CSDN博客

激活层

nn.relu()

本质是max(0, input),对输入数据进行逐元素操作,如果输入的元素值小于0,则输出为0;否则,输出等于输入。

nn.BatchNormid

相关推荐
Rocky Ding*39 分钟前
Muse技术深度解析:用掩码并行生成图像,速度、语义与编辑能力如何同时成立
论文阅读·人工智能·深度学习·机器学习·aigc·ai-native·muse
HIT_Weston1 小时前
15、【数学】【基础】欧拉公式是怎么来的:从级数、微分方程到旋转
人工智能·模型部署
数智前线2 小时前
AI Coding,正在把存储推向前台
人工智能
论文复现现场6 小时前
AutoDL、算家云与公有云 GPU 怎么选?环境复现、计费与断点恢复对比
pytorch·深度学习·云计算·gpu
唠点键盘之外的7 小时前
15 微调 vs RAG:到底怎么选
人工智能·机器学习·面试·aigc
具身AGI8 小时前
人机协同预训练:三条路线,一条拉开差距
人工智能
东风破_8 小时前
LangSmith:从链路追踪到 RAG 自动化评估
人工智能
东方芷兰8 小时前
Agent 技术摘要 04 —— AI4S、VLM、VLA、VLN、WM、AI Infra
人工智能
catchadmin8 小时前
用 Jev 与 Laravel AI SDK 检测垃圾邮件和自动回复
数据库·人工智能·laravel
一 铭8 小时前
Pi实战 05:本地模型 · MCP · 安全沙箱篇
人工智能·ai·agent·harness