PyTorch 深度学习之卷积神经网络(高级篇)Advanced CNN(十)

0. Revision

前面讲的比较简单的是 串行网络结构

1. GoogLeNet

1.1 Inception module

w h 要一致

what is 1×1 convolution?

信息融合-eg.高中各门学科成绩比较(总分)

最主要工作:改变通道数量

why is 1×1 convolution?

减少10倍

1.2 implementation of inception module

拼接

第一个维度拼接-C 输出24*3+16=88个通道数

1.3 Using Inception Module

Results

2. Go deeper

stacking layers 反而error增加了

2.1 Deep Residual Learning

解决梯度消失问题

2.2 Residual Network

Implementation of Simple Residual Network

保证残差模块前后不变

2.3 Implementation of Simple Residual Block

增量开发

3. Exercise

exercise1: reading paper and implementing

exercise2: reading paper and implementing DenseNet

4. 以后怎么走

现在讲了实现

以后怎么走

1. 理论 深度学习

2. 阅读pytorch的文档 通读一遍

3. 复现经典工作-代码下载-跑通

读代码-自己来写(循环来写, 学习过程)

4. 扩充视野-->知识盲点