神经网络骨架nn.Module

文章目录

一、认识nn.Module

nn.Module 是 PyTorch 中的一个核心类,它是所有神经网络模块的基类。在 PyTorch 中构建模型时,通常会继承这个类来创建自定义的网络结构。nn.Module 提供了一系列用于构建神经网络的工具和方法,

具体有:

  • 层注册:可以通过 add_module 方法或者在 init 方法中使用 self. =
    的方式向模块中添加子模块(即层)。这些子模块可以是其他 nn.Module 的实例,如 nn.Linear、nn.Conv2d 等。
  • 参数管理:nn.Module 自动跟踪所有子模块的参数(如权重和偏置),使得参数的管理和更新变得更加方便。
  • 前向传播:通过定义 forward 方法来指定模型的前向传播逻辑。当模型被调用时(例如 model(input)),forward
    方法会被执行,并且输入数据会按照 forward 方法中定义的方式进行处理。
  • 训练模式与评估模式:nn.Module 有一个 .train() 方法用于设置模型为训练模式(启用 Dropout 等),以及一个
    .eval() 方法用于设置模型为评估模式(禁用 Dropout 等)。
  • 参数优化:nn.Module 可以与优化器(如 torch.optim.Adam 或
    torch.optim.SGD)配合使用,优化器会利用模型的参数进行梯度下降等优化操作。

二、nn.Module的基础加1操作

进行一个非常简单的操作:对输入数据加1。

bash 复制代码
import torch
from torch import nn

class Tudui(nn.Module):
    def __init__(self):
        #这行代码调用了父类(即nn.Module)的初始化函数。在PyTorch中,这是必要的,因为它会设置一些内部结构,使得模型可以正确地注册参数和子模块。
        super().__init__()

    #这是定义模型前向传播的函数。在PyTorch中,forward函数指定了如何将输入数据转换为输出数据。这个函数必须定义,因为它是模型的核心。
    def forward(self,input):
        output = input + 1
        return output

tudui = Tudui()
x = torch.tensor(1.0)
output = tudui(x)
print(output)

运行结果:

注:这是因为将一个值为 1.0 的张量 x 传递给模型,模型将其增加 1,所以输出是 2.0。

相关推荐
朝朝辞暮i3 分钟前
VLA 系统学习第 4 课:一个 Batch 进入神经网络后,模型到底是怎么“学会”的?
人工智能·python·神经网络·vla
IT古董11 分钟前
《FDE前沿部署工程师实战教程》33 - Enterprise AI Observability:从Agent Trace到全链路智能运维
数据库·人工智能
Ada's24 分钟前
【计算机基础系列】003:Python数据结构
开发语言·数据结构·python
xsd2024111827 分钟前
地网腐蚀AI识别算法全解析:从锈蚀图像到地下腐蚀快速定位
人工智能
oooost30 分钟前
pytorch学习笔记2(transformer)
人工智能·机器学习
2601_962885721 小时前
如何用 Python 计算 TRIX 三重指数平滑均线指标?
开发语言·python
云杂项1 小时前
Exploring Model Inversion Attacks in the Black-box Setting(个人笔记)
人工智能
还卿一钵无情泪1 小时前
Unsloth 微调 构建自己的大模型 没有GPU也能微调
linux·开发语言·人工智能·python·大模型·nlp·unsloth
冬奇Lab2 小时前
LLM 驱动的自动化测试系列(06):移动端自动化(二)——DroidRun/Mobilerun 的角色级模型拆分
人工智能·测试
冬奇Lab2 小时前
一天一个开源项目(第230篇):HandRaw-Style —— 把 327 种手绘风格、165 种排版、36 种配色编号化,让 AI 画图不再每次都飘
人工智能·开源·资讯