卷积神经网络(Convolutional Neural Networks, CNN)

卷积神经网络(Convolutional Neural Networks, CNN)是深度学习领域中用于处理具有网格结构的输入(如图像和视频)的神经网络模型。下面以最简单、直观的方式概述CNN的主要流程及其基本概念:

1. 输入层

  • 概念:输入层直接接收原始数据,比如一张图片,通常是一张二维或三维的矩阵,包含像素信息。

  • 流程:例如,输入一张28x28像素的灰度图像,形成一个28x28的矩阵,每个元素代表一个像素的亮度值。

2. 卷积层

  • 概念:卷积层通过卷积核(或称滤波器)扫描输入数据,识别特定的特征。卷积核是一个小的矩阵,它会与输入数据的局部区域做元素相乘再求和的操作。

  • 流程:一个3x3的卷积核在输入图像上滑动,每次覆盖9个像素,计算一个值,这样就形成了一个"特征图",能够捕捉图像中的基本特征,如边缘、纹理等。

3. 激活函数

  • 概念:激活函数引入了非线性变换,使得网络能够学习更复杂的模式。

  • 流程:通常在卷积操作后应用,如ReLU(Rectified Linear Unit),它会将所有负值置为0,保留和放大正值,增强网络的表达能力。

4. 池化层

  • 概念:池化层用于降低数据的维度,同时保留重要信息,增强模型对位置轻微变化的鲁棒性。

  • 流程:常见的有最大池化(取局部区域的最大值)和平均池化(取局部区域的平均值),通常使用2x2的窗口,步长为2,将特征图的尺寸减半。

5. 全连接层

  • 概念:全连接层连接所有神经元,用于整合所有特征,做出最终的分类或回归预测。

  • 流程:将卷积和池化后的多维特征图展平为一维向量,通过权重矩阵映射到分类标签的空间,输出每个类别的概率。

6. 输出层

  • 概念:输出层给出最终的分类决策或回归结果。

  • 流程:在分类任务中,通常通过softmax函数将全连接层的输出转换为概率分布,预测概率最高的类别为最终结果。

整个过程可以概括为:原始图像输入 → 卷积提取特征 → 激活非线性变换 → 池化降维 → 全连接层整合特征 → 输出层给出预测结果。

通过多层的卷积和池化处理,CNN能够从原始像素中自动学习和提取多层次的特征,最终用于识别和分类。

python 复制代码
class CNN(nn.Module):
    def __init__(self):
        super(CNN, self).__init__()
        self.conv1 = nn.Sequential(         # 输入大小 (1, 28, 28)
            nn.Conv2d(
                in_channels=1,              # 灰度图
                out_channels=16,            # 要得到几 多少个特征图
                kernel_size=5,              # 卷积核大小
                stride=1,                   # 步长
                padding=2,                  # 如果希望卷积后大小跟原来一样,需要设置padding=(kernel_size-1)/2 if stride=1
            ),                              # 输出的特征图为 (16, 28, 28)
            nn.ReLU(),                      # relu层
            nn.MaxPool2d(kernel_size=2),    # 进行池化操作(2x2 区域), 输出结果为: (16, 14, 14)
        )
        self.conv2 = nn.Sequential(         # 下一个套餐的输入 (16, 14, 14)
            nn.Conv2d(16, 32, 5, 1, 2),     # 输出 (32, 14, 14)
            nn.ReLU(),                      # relu层
            nn.Conv2d(32, 32, 5, 1, 2),
            nn.ReLU(),
            nn.MaxPool2d(2),                # 输出 (32, 7, 7)
        )
        
        self.conv3 = nn.Sequential(         # 下一个套餐的输入 (16, 14, 14)
            nn.Conv2d(32, 64, 5, 1, 2),     # 输出 (32, 14, 14)
            nn.ReLU(),             # 输出 (32, 7, 7)
        )
        
        self.out = nn.Linear(64 * 7 * 7, 10)   # 全连接层得到的结果

    def forward(self, x):
        x = self.conv1(x)
        x = self.conv2(x)
        x = self.conv3(x)
        x = x.view(x.size(0), -1)           # flatten操作,结果为:(batch_size, 32 * 7 * 7)
        output = self.out(x)
        return output
1. 再加入一层卷积,效果怎么样?

在神经网络中,增加一层卷积层通常可以增强模型的表征能力,使其能够学习到更复杂的特征。但是,这同样会增加模型的复杂度,可能导致模型训练时间变长,以及在数据量不足时容易发生过拟合。具体效果如何,需要通过实验验证。

例如,如果原模型有一层卷积层,你可以尝试在其后增加另一层卷积层,同时考虑使用更小的滤波器(例如 3x3)和合适的步长与填充,以保持输出尺寸不变。增加的卷积层可以使用ReLU激活函数,以保持非线性。

复制代码
conv1 = nn.Conv2d(in_channels, out_channels, kernel_size=3, stride=1, padding=1)
conv2 = nn.Conv2d(out_channels, out_channels_next, kernel_size=3, stride=1, padding=1)

在实际操作中,需要监控模型的训练和验证集性能,确保增加的复杂性带来了实际的性能提升。

2. 当前任务中为什么全连接层是3277?每一个数字代表什么含义?

在卷积神经网络中,全连接层前的尺寸通常反映了特征图的大小和深度。3277中的每个数字有其特定含义:

  • 32:代表特征图的深度(也就是上一层输出的通道数)。这通常是指在卷积层或池化层后,模型学习到的特征的数量。每个通道可以看作是模型学习到的某种特定特征的响应。

  • 77:表示特征图的宽度和高度。这是经过一系列卷积和池化操作后,原始输入图像被降采样(或下采样)后的尺寸。

以典型的CNN架构为例,假设输入图像为224x224像素,使用一个7x7的卷积核,经过两次最大池化(每次池化核大小为2x2,步长为2),特征图的尺寸会从224x224降为56x56,再降为28x28,最后到14x14。如果在14x14的特征图上再使用卷积层,特征图的深度会增加,但宽度和高度保持不变,直到最后被展平(flatten)成1D向量送入全连接层。

因此,如果最终特征图的深度为32,而宽度和高度均为7,展平后的向量长度即为3277,这是在进入全连接层前,模型对图像特征的最终表征。全连接层将使用这些特征进行最终的分类决策。

相关推荐
3DVisionary7 分钟前
3D-DIC与机器学习协同模拟材料应力-应变本构行为研究
人工智能·机器学习·3d·3d-dic技术 机器学习·应力-应变本构行为·卷积神经网络(ecnn)·数字图像相关法(dic)
神经星星9 分钟前
无需预对齐即可消除批次效应,东京大学团队开发深度学习框架STAIG,揭示肿瘤微环境中的详细基因信息
人工智能·深度学习·机器学习
神经星星9 分钟前
【vLLM 学习】调试技巧
人工智能·机器学习·编程语言
Xiaok101826 分钟前
解决 Hugging Face SentenceTransformer 下载失败的完整指南:ProxyError、SSLError与手动下载方案
开发语言·神经网络·php
程序员Linc28 分钟前
写给新人的深度学习扫盲贴:向量与矩阵
人工智能·深度学习·矩阵·向量
xcLeigh35 分钟前
OpenCV从零开始:30天掌握图像处理基础
图像处理·人工智能·python·opencv
果冻人工智能39 分钟前
如何有效应对 RAG 中的复杂查询?
人工智能
2305_797882091 小时前
AI识图小程序的功能框架设计
人工智能·微信小程序·小程序
果冻人工智能1 小时前
向量搜索中常见的8个错误(以及如何避免它们)
人工智能
碳基学AI1 小时前
哈尔滨工业大学DeepSeek公开课:探索大模型原理、技术与应用从GPT到DeepSeek|附视频与讲义免费下载方法
大数据·人工智能·python·gpt·算法·语言模型·集成学习