PyTorch入门学习(十一):神经网络-线性层及其他层介绍

一、简介

神经网络是由多个层组成的,每一层都包含了一组权重和一个激活函数。每层的作用是将输入数据进行变换,从而最终生成输出。线性层是神经网络中的基本层之一,它执行的操作是线性变换,通常表示为:

css 复制代码
y = Wx + b

其中,y 是输出,x 是输入,W 是权重矩阵,b 是偏置。线性层将输入数据与权重矩阵相乘,然后加上偏置,得到输出。线性层的主要作用是进行特征提取和数据的线性组合。

二、PyTorch 中的线性层

在 PyTorch 中,线性层可以通过 torch.nn.Linear 类来实现。下面是一个示例,演示如何创建一个简单的线性层:

python 复制代码
import torch
from torch.nn import Linear

# 创建一个线性层,输入特征数为 3,输出特征数为 2
linear_layer = Linear(3, 2)

在上面的示例中,首先导入 PyTorch 库,然后创建一个线性层 linear_layer,指定输入特征数为 3,输出特征数为 2。该线性层将对输入数据执行一个线性变换。

三、示例:使用线性层构建神经网络

现在,接下来看一个示例,如何使用线性层构建一个简单的神经网络,并将其应用于图像数据。我们使用 PyTorch 和 CIFAR-10 数据集,这是一个广泛使用的图像分类数据集。

python 复制代码
import torch
from torch import nn
from torch.nn import Linear
from torch.utils.data import DataLoader
import torchvision.datasets

# 加载 CIFAR-10 数据集
dataset = torchvision.datasets.CIFAR10("D:\\Python_Project\\pytorch\\dataset2", train=False, transform=torchvision.transforms.ToTensor(), download=True)
dataloader = DataLoader(dataset, batch_size=64)

# 定义一个简单的神经网络
class MyModel(nn.Module):
    def __init__(self):
        super(MyModel, self).__init()
        self.linear1 = Linear(196608, 10)

    def forward(self, x):
        x = x.view(x.size(0), -1)  # 将输入数据展平
        x = self.linear1(x)
        return x

# 创建模型实例
model = MyModel()

# 遍历数据集并应用模型
for data in dataloader:
    imgs, targets = data
    outputs = model(imgs)
    print(outputs.shape)

在上面的示例中,首先加载 CIFAR-10 数据集,然后定义了一个简单的神经网络 MyModel,其中包含一个线性层。我们遍历数据集并将输入数据传递给模型,然后打印输出的形状。

四、常见的其他层

除了线性层,神经网络中还有许多其他常见的层,例如卷积层(Convolutional Layers)、池化层(Pooling Layers)、循环层(Recurrent Layers)等。这些层在不同类型的神经网络中起到关键作用。例如,卷积层在处理图像数据时非常重要,循环层用于处理序列数据,池化层用于减小数据维度。在 PyTorch 中,这些层都有相应的实现,可以轻松地构建不同类型的神经网络。

参考资料:

视频教程:PyTorch深度学习快速入门教程(绝对通俗易懂!)【小土堆】

相关推荐
fyakm几秒前
GAN入门:生成器与判别器原理(附Python代码)
rnn·深度学习·神经网络
肥肠可耐的西西公主14 分钟前
后端(JavaWeb)学习笔记(CLASS 1):maven
笔记·学习·maven
DKPT3 小时前
JVM栈溢出和堆溢出哪个先满?
java·开发语言·jvm·笔记·学习
fyakm3 小时前
RNN的注意力机制:原理与实现(代码示例)
rnn·深度学习·神经网络
Rock_yzh6 小时前
AI学习日记——参数的初始化
人工智能·python·深度学习·学习·机器学习
拆房老料7 小时前
Transformer推理优化全景:从模型架构到硬件底层的深度解析
深度学习·ai·自然语言处理·transformer
今天只学一颗糖9 小时前
Linux学习笔记--insmod 命令
linux·笔记·学习
charlie1145141919 小时前
精读C++20设计模式:行为型设计模式:中介者模式
c++·学习·设计模式·c++20·中介者模式
楼田莉子9 小时前
Qt开发学习——QtCreator深度介绍/程序运行/开发规范/对象树
开发语言·前端·c++·qt·学习
byzy9 小时前
【论文笔记】VisionPAD: A Vision-Centric Pre-training Paradigm for Autonomous Driving
论文阅读·深度学习·计算机视觉·自动驾驶