神经网络骨架nn.Module

文章目录

一、认识nn.Module

nn.Module 是 PyTorch 中的一个核心类,它是所有神经网络模块的基类。在 PyTorch 中构建模型时,通常会继承这个类来创建自定义的网络结构。nn.Module 提供了一系列用于构建神经网络的工具和方法,

具体有:

  • 层注册:可以通过 add_module 方法或者在 init 方法中使用 self. =
    的方式向模块中添加子模块(即层)。这些子模块可以是其他 nn.Module 的实例,如 nn.Linear、nn.Conv2d 等。
  • 参数管理:nn.Module 自动跟踪所有子模块的参数(如权重和偏置),使得参数的管理和更新变得更加方便。
  • 前向传播:通过定义 forward 方法来指定模型的前向传播逻辑。当模型被调用时(例如 model(input)),forward
    方法会被执行,并且输入数据会按照 forward 方法中定义的方式进行处理。
  • 训练模式与评估模式:nn.Module 有一个 .train() 方法用于设置模型为训练模式(启用 Dropout 等),以及一个
    .eval() 方法用于设置模型为评估模式(禁用 Dropout 等)。
  • 参数优化:nn.Module 可以与优化器(如 torch.optim.Adam 或
    torch.optim.SGD)配合使用,优化器会利用模型的参数进行梯度下降等优化操作。

二、nn.Module的基础加1操作

进行一个非常简单的操作:对输入数据加1。

bash 复制代码
import torch
from torch import nn

class Tudui(nn.Module):
    def __init__(self):
        #这行代码调用了父类(即nn.Module)的初始化函数。在PyTorch中,这是必要的,因为它会设置一些内部结构,使得模型可以正确地注册参数和子模块。
        super().__init__()

    #这是定义模型前向传播的函数。在PyTorch中,forward函数指定了如何将输入数据转换为输出数据。这个函数必须定义,因为它是模型的核心。
    def forward(self,input):
        output = input + 1
        return output

tudui = Tudui()
x = torch.tensor(1.0)
output = tudui(x)
print(output)

运行结果:

注:这是因为将一个值为 1.0 的张量 x 传递给模型,模型将其增加 1,所以输出是 2.0。

相关推荐
leoZ2314 小时前
本地跑大模型实战(七):llama.cpp 性能调优,让推理更快更省
java·人工智能·spring·生成对抗网络·语言模型·自然语言处理·llama
To_OC4 小时前
我把《天龙八部》塞进向量数据库后,终于搞懂了 RAG 到底是个啥
人工智能·llm·agent
蜡台5 小时前
AI Agent(智能体)入门基础教程
人工智能
傻啦嘿哟5 小时前
某短视频平台视频爬虫实战:抓取推荐流视频信息,绕过反爬的3种技巧
开发语言·爬虫·python
Akir.weiwen5 小时前
Token 层差异:从颜色值到语义状态的三层跃迁
人工智能·设计规范
迷迭香yy5 小时前
集合竞价数据挖掘实战:用Python构建开盘信号识别系统
人工智能·python·数据挖掘
大模型momo6 小时前
Spring AI 实战:多 Agent 协作实战 —— 分工拆解复杂旅游行程任务
人工智能·spring·ai·agent·旅游
小程故事多_806 小时前
从A2C、TRPO、PPO到GRPO,强化学习策略梯度算法完整演进与大模型落地实战解析
人工智能·算法
冬奇Lab6 小时前
开源项目第176期:Better Harness — 不审查 diff,审查工作流本身,给 AI 编程 Agent 的五维评估框架
人工智能·开源·agent
冬奇Lab6 小时前
代码库知识库系列(07):混合检索 BM25 + 向量——Q8 还是失败,而且总分退步了
人工智能