目录
[十六、添加Batch Normalization](#十六、添加Batch Normalization)
在前面的文章中，我们已经学习了：
二维卷积
多通道卷积
池化层
卷积反向传播
神经网络训练流程我们知道：
卷积层负责提取特征
池化层负责压缩特征
全连接层负责完成分类那么问题来了：
如何把这些组件组合起来？
一个完整的卷积神经网络长什么样？
经典CNN是如何设计的？
如何使用PyTorch搭建CNN？事实上：
现代视觉模型
几乎都建立在CNN思想之上例如：
LeNet
AlexNet
VGG
GoogLeNet
ResNet
YOLO本文将系统讲解：
CNN整体结构
经典CNN演进过程
LeNet结构
AlexNet结构
VGG结构
CNN搭建原则
PyTorch实战二、卷积神经网络整体结构
一个典型CNN通常包含：
输入层
卷积层
激活层
池化层
全连接层
输出层整体流程：
工作过程：
提取低级特征
↓
提取高级特征
↓
压缩特征
↓
完成分类三、CNN为什么比普通神经网络更强
假设：
图片大小
224 × 224 × 3如果直接连接全连接层：
224×224×3
=
150528个输入参数量巨大。
而CNN采用：
局部连接
权重共享优势：
参数更少
训练更快
更容易学习图像特征四、LeNet：CNN的起点
1998年：
Yann LeCun提出：
LeNet-5用于：
手写数字识别结构：
特点：
2层卷积
2层池化
3层全连接虽然简单。
但开启了CNN时代。
五、LeNet网络结构解析
输入：
32×32灰度图第一层：
Conv 5×5输出：
28×28×6池化：
14×14×6第二层：
Conv 5×5输出：
10×10×16最终：
全连接分类完成：
0~9数字识别六、AlexNet：深度学习爆发点
2012年：
ImageNet竞赛出现：
AlexNet作者：
Alex Krizhevsky结构：
重大创新：
ReLU
Dropout
GPU训练最终：
ImageNet准确率大幅提升引爆深度学习浪潮。
七、VGG：统一卷积设计
2014年：
VGGNet提出：
全部使用3×3卷积结构：
特点：
结构统一
易于扩展
实现简单经典版本：
VGG16
VGG19八、为什么卷积层越来越深
早期网络：
提取边缘中间层：
提取纹理深层：
提取目标轮廓最后：
识别物体例如：
边缘
↓
眼睛
↓
人脸
↓
人物这就是深层CNN的优势。
九、典型CNN搭建原则
原则一：
卷积核逐渐增多例如：
32
↓
64
↓
128
↓
256原则二：
特征图逐渐减小例如：
224×224
↓
112×112
↓
56×56
↓
28×28原则三：
通道越来越多
空间越来越小十、CNN分类网络结构示例
假设：
输入：
64×64×3网络：
最终：
输出类别概率十一、PyTorch搭建CNN
导入模块：
python
import torch
import torch.nn as nn定义网络：
python
class SimpleCNN(nn.Module):
def __init__(self):
super().__init__()
self.conv1 = nn.Conv2d(
3,
32,
3,
padding=1
)
self.pool = nn.MaxPool2d(
2,
2
)
self.conv2 = nn.Conv2d(
32,
64,
3,
padding=1
)
self.fc = nn.Linear(
64 * 16 * 16,
10
)十二、实现前向传播
python
def forward(self,x):
x = self.pool(
torch.relu(
self.conv1(x)
)
)
x = self.pool(
torch.relu(
self.conv2(x)
)
)
x = x.view(
x.size(0),
-1
)
x = self.fc(x)
return x整个流程：
卷积
↓
ReLU
↓
池化
↓
卷积
↓
ReLU
↓
池化
↓
全连接十三、创建模型
python
model = SimpleCNN()
print(model)输出：
卷积层
池化层
全连接层说明网络搭建成功。
十四、测试输入
构造图片：
python
x = torch.randn(
1,
3,
64,
64
)预测：
y = model(x)
print(y.shape)输出：
torch.Size([1,10])表示：
10个类别十五、添加Dropout防止过拟合
CNN训练时容易：
过拟合解决：
python
self.dropout = nn.Dropout(
0.5
)使用：
x = self.dropout(x)作用：
随机关闭部分神经元提升泛化能力。
十六、添加Batch Normalization
现代CNN几乎都会使用：
BN层代码：
self.bn1 = nn.BatchNorm2d(32)前向传播：
python
x = self.bn1(
self.conv1(x)
)优势：
加速收敛
提升稳定性十七、训练CNN
损失函数：
python
criterion = nn.CrossEntropyLoss()优化器：
python
optimizer = torch.optim.Adam(
model.parameters(),
lr=0.001
)训练：
python
for epoch in range(10):
output = model(x)
loss = criterion(
output,
label
)
optimizer.zero_grad()
loss.backward()
optimizer.step()这就是完整训练流程。
十八、CNN参数量计算
假设：
输入通道
3卷积核：
32个
3×3参数：
3×3×3×32
=
864再加：
32个偏置总计：
896相比全连接层：
少得多十九、面试高频问题
CNN由哪些部分组成？
卷积层
激活层
池化层
全连接层LeNet有什么意义？
第一个成功CNNAlexNet最大贡献是什么？
推动深度学习爆发VGG为什么经典？
统一采用3×3卷积CNN为什么参数少？
局部连接
权重共享为什么卷积层越往后通道越多？
提取更丰富高级特征二十、总结
卷积神经网络的发展历程：
LeNet
↓
AlexNet
↓
VGG
↓
GoogLeNet
↓
ResNet
↓
EfficientNet
↓
Vision Transformer而一个典型CNN的搭建过程：
输入图片
↓
卷积层
↓
激活层
↓
池化层
↓
卷积层
↓
池化层
↓
全连接层
↓
分类结果掌握典型CNN的搭建，不仅能够理解经典计算机视觉模型的设计思想，更能够为后续学习：
目标检测
图像分割
YOLO
ResNet
Vision Transformer打下坚实基础。
可以说：
卷积层负责"看见"，池化层负责"压缩"，全连接层负责"决策"。而典型卷积神经网络的搭建过程，本质上就是让机器逐层学习从像素到语义的映射过程。