深层RNN
++++核心思想很简单:++++ ++++把多个 RNN(可以是普通 RNN、GRU 或 LSTM)层叠起来++++
使用多个隐藏层来获得更多的非线性性



可以实现层间传递
简洁实现:
以两层隐藏层的LSTM为例,num_layers为隐藏层数参数

双向RNN
双向循环神经网络通过反向更新的隐藏层来利用方向时间信息
通常用来对序列抽取特征,填空,++++而不是预测未来++++



多层 LSTM 中,记忆元不是"只有一层",而是++++"每层每个方向各一个"++++,彼此独立。深度方向靠隐状态 H 连接,时间方向靠记忆元 C 传递。
具体的实现可以通过bidirectional=True来创建双向模型

使用误区:由于双向循环神经网络使用了过去的和未来的数据,++++不能用于预测未来的模型中++++