神经网络的常用layer

卷积层

nn.Conv1d

池化层

下采样层主要是使用pooling层的操作技术来实现的,目的主要是保存有效的信息,降低特征的维度,来避免过拟合。对一个M*N的图像,进行s倍的下采样,对长和宽来说各要缩小s倍

全连接层

nn.Linear

(70 封私信 / 85 条消息) 全连接层的作用是什么? - 知乎 (zhihu.com)

复制代码
torch.nn.Linear(in_features, # 输入的神经元个数
           out_features, # 输出神经元个数
           bias=True # 是否包含偏置
           )
nn.Linear(2, 1) # 输入特征数为2,输出特征数为1

Pytorch nn.Linear的基本用法与原理详解_iioSnail的博客-CSDN博客

激活层

nn.relu()

本质是max(0, input),对输入数据进行逐元素操作,如果输入的元素值小于0,则输出为0;否则,输出等于输入。

nn.BatchNormid

相关推荐
大龄程序员狗哥2 小时前
第47篇:使用Speech-to-Text API快速构建语音应用(操作教程)
人工智能
KKKlucifer2 小时前
数据安全合规自动化:策略落地、审计追溯与风险闭环技术解析
人工智能·安全
RWKV元始智能2 小时前
RWKV超并发项目教程,RWKV-LM训练提速40%
人工智能·rnn·深度学习·自然语言处理·开源
dyj0952 小时前
Dify - (一)、本地部署Dify+聊天助手/Agent
人工智能·docker·容器
墨染天姬2 小时前
【AI】Hermes的GEPA算法
人工智能·算法
小超同学你好2 小时前
OpenClaw 深度解析系列 · 第8篇:Learning & Adaptation(学习与自适应)
人工智能·语言模型·chatgpt
紫微AI3 小时前
前端文本测量成了卡死一切创新的最后瓶颈,pretext实现突破了
前端·人工智能·typescript
码途漫谈3 小时前
Easy-Vibe开发篇阅读笔记(四)——前端开发之结合 Agent Skills 美化界面
人工智能·笔记·ai·开源·ai编程
易连EDI—EasyLink3 小时前
易连EDI–EasyLink实现OCR智能数据采集
网络·人工智能·安全·汽车·ocr·edi
冬奇Lab3 小时前
RAG 系列(二):用 LangChain 搭建你的第一个 RAG Pipeline
人工智能·langchain·llm