RNN结构记录

引言

循环神经网络基本结构记录，本来想重新画一个图的，懒得麻烦将就用了。图本身画得有些问题，或者省略了一些细节，不要想通过看图推导公式，导致公式和图对不上，以公式补全图，公式是对的。

1 RNN

1.1 架构图

1.2 公式

2 LTSM

2.1 架构图

如果想通过上图理解说明的公式计算过程，应该非常费劲，隐藏了很多信息，可以参考一下这个图

上面这个图其实也还有隐藏内容没有画出来

2.2 公式

3 GRU

3.1 架构图

3.2 公式