神经网络骨架nn.Module

文章目录

一、认识nn.Module

nn.Module 是 PyTorch 中的一个核心类,它是所有神经网络模块的基类。在 PyTorch 中构建模型时,通常会继承这个类来创建自定义的网络结构。nn.Module 提供了一系列用于构建神经网络的工具和方法,

具体有:

  • 层注册:可以通过 add_module 方法或者在 init 方法中使用 self. =
    的方式向模块中添加子模块(即层)。这些子模块可以是其他 nn.Module 的实例,如 nn.Linear、nn.Conv2d 等。
  • 参数管理:nn.Module 自动跟踪所有子模块的参数(如权重和偏置),使得参数的管理和更新变得更加方便。
  • 前向传播:通过定义 forward 方法来指定模型的前向传播逻辑。当模型被调用时(例如 model(input)),forward
    方法会被执行,并且输入数据会按照 forward 方法中定义的方式进行处理。
  • 训练模式与评估模式:nn.Module 有一个 .train() 方法用于设置模型为训练模式(启用 Dropout 等),以及一个
    .eval() 方法用于设置模型为评估模式(禁用 Dropout 等)。
  • 参数优化:nn.Module 可以与优化器(如 torch.optim.Adam 或
    torch.optim.SGD)配合使用,优化器会利用模型的参数进行梯度下降等优化操作。

二、nn.Module的基础加1操作

进行一个非常简单的操作:对输入数据加1。

bash 复制代码
import torch
from torch import nn

class Tudui(nn.Module):
    def __init__(self):
        #这行代码调用了父类(即nn.Module)的初始化函数。在PyTorch中,这是必要的,因为它会设置一些内部结构,使得模型可以正确地注册参数和子模块。
        super().__init__()

    #这是定义模型前向传播的函数。在PyTorch中,forward函数指定了如何将输入数据转换为输出数据。这个函数必须定义,因为它是模型的核心。
    def forward(self,input):
        output = input + 1
        return output

tudui = Tudui()
x = torch.tensor(1.0)
output = tudui(x)
print(output)

运行结果:

注:这是因为将一个值为 1.0 的张量 x 传递给模型,模型将其增加 1,所以输出是 2.0。

相关推荐
惊讶的猫44 分钟前
LSTM论文解读
开发语言·python
测试老哥1 小时前
软件测试之单元测试知识总结
自动化测试·软件测试·python·测试工具·职场和发展·单元测试·测试用例
翔云 OCR API1 小时前
人工智能驱动下的OCR API技术演进与实践应用
人工智能·ocr
buvsvdp50059ac2 小时前
如何在VSCode中设置Python解释器?
ide·vscode·python
南方者2 小时前
重磅升级!文心 ERNIE-5.0 新一代原生全模态大模型,这你都不认可它吗?!
人工智能·aigc
njxiejing2 小时前
Python进度条工具tqdm的安装与使用
开发语言·python
庄周迷蝴蝶2 小时前
旋转位置编码(Rotary Position Embedding,RoPE)
人工智能·机器学习
xier_ran2 小时前
深度学习:RMSprop 优化算法详解
人工智能·深度学习·算法
大千AI助手2 小时前
Prefix-Tuning:大语言模型的高效微调新范式
人工智能·神经网络·自然语言处理·llm·prefix-tuning·大千ai助手·前缀微调
雾江流2 小时前
RikkaHub 1.6.11 | 开源的本地大型语言模型聚合应用,支持多种AI服务提供商
人工智能·语言模型·自然语言处理·软件工程