目录
- 视觉识别任务
- 语义分割
-
- 语义分割定义
- 语义分割思路：滑动窗口
- 语义分割思路（全卷积）
- 先下采样再上采样
-
- 下采样算法
- 上采样算法
-
- unpooling（反池化）
-
- [nearest neighbor](#nearest neighbor)
- [bed of nails](#bed of nails)
- unpooling缺点
- [Index Unpooling](#Index Unpooling)
-
- [max unpooling（反池化）](#max unpooling（反池化）)
- [转置卷积（Transpose Convolution）](#转置卷积（Transpose Convolution）)
- UNET
视觉识别任务
语义分割
语义分割定义
给每个像素分配类别标签。
不区分实例，只考虑像素类别。
语义分割思路：滑动窗口
滑动窗口缺点
重叠区域的特征反复被计算，效率很低。
所以针对该问题提出了新的解决方案--全卷积。
语义分割思路（全卷积）
让整个网络只包含卷积层，一次性输出所有像素的类别预测。
全卷积优点
不用将图片分为一个个小区域然后再对这一个个小区域进行分类，而是一次性输出像素的类别预测，减少了重叠区域重复计算，从而减少了运算量，加快了运算速度。
全卷积缺点
1 处理过程中一直保持原始分辨率，即卷积过程中一直保持图片长宽不变。对于显存的需求会非常庞大，甚至使得前向数据不能完整的保存在显存中。
针对这个问题，提出了先下采样然后上采样。
2 上采样是根据下采样得到的高级语义得到的，但是有时候高级语义效果并不好，还需要使用低级语义。
针对这个问题，提出了Unet，将下采样过程中的低级语义整合到上采样过程中，从而使得效果更好。
先下采样再上采样
下采样算法
pooling（池化）
strided convolution
上采样算法
unpooling（反池化）
nearest neighbor
对于每个池化区域，最近邻反池化会将池化后的值复制到恢复区域的每个位置，以填充恢复区域。这样，可以将特征图恢复到与池化之前相同的尺寸。
需要注意的是，最近邻反池化是一种近似的逆操作，因为池化操作中的信息丢失是不可逆的。因此，最近邻反池化只能恢复到大致相似的尺寸和分布，而无法完全还原原始特征图。
bed of nails
对于每个池化区域，最近邻反池化会将池化后的值把数据放在左上角，其他位置置零，以填充恢复区域。这样，可以将特征图恢复到与池化之前相同的尺寸。
unpooling缺点
人为给定的像素值可能是噪声。
人为给定的非0像素值可能原来并不在当前位置。
针对这些问题，提出了反池化操作思想--index Unpooling。
Index Unpooling
Index Unpooling的基本原理是根据池化时记录的最大值索引位置，将池化后的特征值放回到对应的恢复区域中。具体而言，对于每个最大值索引位置，Index Unpooling会将一个固定的值（例如1）放置在对应的恢复区域中，其余位置为零。通过这种方式，可以恢复出与池化之前相同尺寸的特征图。
max unpooling（反池化）
方式一（固定写死）
对于一些模型来说，上采样和下采样的结构往往是对称的，可以在下采样的Max Pooling时记录最大值的位置，在unpooling的时候把数据还原到最大值的位置，其余位置置零。
转置卷积（Transpose Convolution）
方式二（自动学习）
回顾
3 × 3 3 \times 3 3×3卷积，步长（stride）1，零填充（pad）1
3 × 3 3 \times 3 3×3卷积，步长（stride）2，零填充（pad）1
一维例子
步长为1
下采样
上采样
步长为2
UNET
上采样是根据下采样得到的高级语义得到的，但是有时候高级语义效果并不好，还需要使用低级语义。
针对这个问题，提出了Unet，将下采样过程中的低级语义整合到上采样过程中，从而使得效果更好。
