神经网络 | CNN 与 RNN——深度学习主力军

Hi，大家好，我是半亩花海。本文主要将卷积神经网络（CNN）和循环神经网络（RNN） 这两个深度学习主力军 进行对比。我们知道，从应用方面上来看，CNN 用于图像识别较多，而 RNN 用于语言处理较多。CNN 如同眼睛一样，正是目前机器用来识别对象的++图像处理器++ 。相应地，RNN 犹如耳朵和嘴巴，用于++解析语言模式++的数学引擎。

一、卷积神经网络

[1. 特征](#1. 特征)

[2. 结构](#2. 结构)

二、循环神经网络

[1. 网络结构](#1. 网络结构)

[2. 应对梯度消失问题](#2. 应对梯度消失问题)

[三、CNN 与 RNN 的异同点](#三、CNN 与 RNN 的异同点)

[1. 相同点](#1. 相同点)

[2. 不同点](#2. 不同点)

[四、CNN+RNN 的组合方式](#四、CNN+RNN 的组合方式)

我们可以通过形象的假设来理解这俩个神经网络模型：

CNN 的假设------人类的视觉总是会关注视线内特征最明显的点。
RNN 的假设------事物的发展是按照时间序列展开的（前一刻发生的事物会对未来的事情的发展产生影响）。

卷积神经网络：通常用于计算机视觉 中，可以用来图像识别和图像分类。CNN 用于提取图像的空间特征，通过不断的卷积和池化操作实现特征提取和降维。

循环神经网络：通常用于自然语言处理 和语音识别 中，可以用来处理时间序列数据。RNN 的主要思想是把前面的信息传递到后面，这样网络就可以利用之前的信息做出预测，能够处理序列中每个时间步的数据。

一、卷积神经网络

卷积神经网络（Convolutional Neural Network，CNN或ConvNet）是一种具有**++局部连接、权重共享++**等特性的深层前馈神经网络。

1. 特征

局部连接： 在卷积层（假设是第 𝑙 层）中的每一个神经元都只和前一层（第 𝑙 − 1层）中某个局部窗口内的神经元相连，构成一个局部连接网络。
**权重共享：**一个卷积核只捕捉输入数据中的一种特定的局部特征（因此，如果要提取多种特征就需要使用多个不同的卷积核）。
空间或时间上的次采样。

2. 结构

一个卷积神经网络主要由以下 5 层组成：

输入层（Input layer）

卷积层（CONV layer，包含激活函数 ，比如 ReLU、sigmoid、tanh 等）

池化层（Pooling layer）

全连接层（FC layer）

输出层（Ouput layer）

二、循环神经网络

循环神经网络（RNN，Recurrent Neural Network）是一类用于++处理序列数据++的神经网络。

1. 网络结构

RNN 不是刚性地记忆所有固定长度的序列，而是通过隐藏状态来存储之前时间步的信息。

可以看出，典型的 RNN 是有环结构。一个典型的 RNN 网络架构包含一个输入，一个输出和一个神经网络单元。和普通的前馈神经网络的区别在于：RNN 的神经网络单元不但与输入和输出存在联系，而且自身也存在一个循环 / 回路 / 环路 / 回环 (loop)。这种回路允许信息从网络中的一步传递到下一步。

同时，RNN 还能按时间序列展开循环 (unroll the loop) 为如下形式：

由上图可知，上一个时刻的网络状态将会作用于到下一个时刻的网络状态，还表明 RNN 和序列数据密切相关。同时，RNN 要求每一个时刻都有一个输入，但是不一定每个时刻都需要有输出。

进一步地，公式化 RNN 的结构。单个展开的 RNN 结构如下：

RNN 的计算结构如下：

由上述表示，RNN 的经典的计算结构如下：

在图中有一条单向流动的信息流 是++从输入单元到达隐藏单元++ 的，与此同时另一条单向流动的信息流 ++从隐藏单元到达输出单元++。在某些情况下，RNNs 会打破后者的限制，引导信息从输出单元返回隐藏单元，这些被称为 "Back Projections"，并且隐藏层的输入还包括上一隐藏层的状态，即隐藏层内的节点可以自连也可以互连（这实际上就是 LSTM）。

循环神经网络的输入是序列数据，每个训练样本是一个时间序列 ，包含多个相同维度的向量。网络的参数如何通过训练确定？这里就要使用解决 RNN 训练问题的 BPTT（Back Propagation Through Time）算法。

右侧为计算时便于理解记忆而产开的结构。简单说，x 为输入层，o 为输出层，s 为隐含层，而 t 指第几次的计算；V、W、U为权重（在 RNN 中，每一层都共享参数U、V、W，降低了网络中需要学习的参数，提高学习效率。）。表示 t 时刻的输入，表示 t 时刻的隐状态，表示 t 时刻的输出。