重生学AI第十六集:线性层nn.Linear

nn.Linear

1.背景知识

今天学习nn.Linear(线性层),也叫全连接层,我们在卷积层通过卷积操作获取图像特征,然后在线性层,将图像特征转化为最终的输出结果,在图像分类任务中,就是每个类别的打分,后续在输出层,根据打分来输出每个类别的概率。

比如说我们的目标任务是将一些图片分为十个类别,那么out_features 就是10

参数

  • in_features :输入数据的特征数
  • out_features :输出维度 / 输出类别数
  • bias :偏置

先来看一组代码

python 复制代码
import torchvision
from torch.utils.data import DataLoader
from torchvision import transforms

datasets = torchvision.datasets.CIFAR10("../dataset",train=False,download=True,transform=transforms.ToTensor())
dataloader = DataLoader(datasets,batch_size=64)



for data in dataloader:
    img, target = data
    print(img.shape)

控制台输出是这样的

到这里我们要先理解一下这个张量数据:(64,4,32,32), 通过前面的学习我们已经知道这个张量数据的形状是(batch_size,channels,height,width),宽32,代表一行有32个像素,每个像素代表不同的颜色,高也是一样,那么这张图就有32*32个像素,也可以把他们看成是数据,如下图所示,下面这张图是一个5*5的格子,你也可以看成是宽=5,高=5的一个图像,按照张量的写法就是,(1,1,5,5)

好,我们已经学会理解一张图像了,再说回前面那个数据,(64,3,32,32)代表这张图一个通道有32*32个数据,也就是1024个数据,一共有3个通道,1024*3=3072,就是说一张图有3072个数据

2.展平的多种方式

那么,我们就要通过展平的方式,将这个图像的张量数据转化成形状为(batch_size,features)的数据,以便我们将数据送入线性层,in_features和out_features的形状都是如此,那么展平的方式有哪些呢?

1.reshape

python 复制代码
output1 = img.reshape(img.size(0),-1)

2.view

python 复制代码
output1 = img.view(img.size(0),-1)

3.flatten

python 复制代码
output1 = torch.flatten(img,start_dim=1)

参数:

  • start_dim: 展平开始的维度(默认从零开始,但要保留批次,所以需要设置为1)
  • end_dim:展平到哪一维(默认到最后)

这三种用哪种都可以,区别不大,选择喜欢的就好


img.size()是一个对象,返回的数据和shape属性值一样,img.size(0)等价于img.shape0,取得是第一个数据64,也就是图像的批次(batch_size)


完整代码:

python 复制代码
import torchvision

from torch.utils.data import DataLoader
from torchvision import transforms

datasets = torchvision.datasets.CIFAR10("../dataset", train=False, download=True, transform=transforms.ToTensor())
dataloader = DataLoader(datasets, batch_size=64)

for data in dataloader:
    img, target = data
    input1 = img.reshape(img.size(0), -1)
    print(input1.size())

我们通过展平得到了能够送入线性层的数据,如下图所示:

3.线性模型

通过上面的打印,我们已经知道了特征数是3072个,所以第一个参数就写3072,然后需要10个结果类别,偏置就不写了,让他默认即可

python 复制代码
import torchvision
from torch import nn
from torch.utils.data import DataLoader
from torchvision import transforms

datasets = torchvision.datasets.CIFAR10("../dataset", train=False, download=True, transform=transforms.ToTensor())
dataloader = DataLoader(datasets, batch_size=64)


class LinearModel(nn.Module):
    def __init__(self):
        super(LinearModel, self).__init__()
        self.linear1 = nn.Linear(3072, 10)

    def forward(self, input1):
        output1 = self.linear1(input1)
        return output1


model = LinearModel()

for data in dataloader:
    img, target = data
    input1 = img.reshape(img.size(0), -1)
    output1 = model(input1)
    print(output1.size())

运行结果:

成功的把原来的每张图片的3072个特征转换成了10个结果类别

相关推荐
微帧Visionular3 分钟前
直接生成1080P,和480P生成后再增强,哪种方式更省钱?
人工智能·计算机视觉·aigc
Xiaofeng36933 分钟前
知漫剧 AI 短剧制作平台深度评测
大数据·人工智能
远航计算机8 分钟前
AI 引用你的时候,摘的是哪一段?
人工智能·aigc
Psycho_MrZhang8 分钟前
AgenticAI任务分解和评估
人工智能
Uncertainty!!12 分钟前
大模型基础架构之Transformer
人工智能·深度学习·transformer
商业白皮书24 分钟前
企业通过API调用大模型,推荐哪些具备数据隐私保护能力的平台?
大数据·人工智能·笔记
adinnet202625 分钟前
流式输出:ai问答为什么是逐字蹦出来的
人工智能
Marst Code28 分钟前
上位机开发日记 · 第 12 篇 · 测试:设备模拟器是核心资产
python
howdoyoudo20260637 分钟前
AI基建融资信用分层:谁被挤出GPU抵押市场?
大数据·人工智能·安全·microsoft·ai·语言模型
牛老师讲GIS41 分钟前
透过 GeoLibre AI 助手,Agentic WebGIS 该如何架构与发展?
人工智能·geolibre ai 助手·agentic webgis