RNN循环卷积神经网络

1.定义

RNN (Recurrent Neural Network,RNN)循环卷积神经网络,用于处理序列数据。

序列数据:按照一定的顺序排列的数据,可以是时间顺序、空间顺序、逻辑顺序。

eg:电影、语言

2.特点

传统神经网络模型无法处理可变长度的输入。
传统神经网络模型

传统神经网络模型无法处理可变长度的输入,但是RNN通过循环的方式对当前输入和历史输入进行处理。
RNN输入示意图

3.应用

  • 对序列数据预测。股票、价格、语言进行预测
  • 结合CNN对静态图像的动态内容进行描述。

RNN举例------猫咪喝水

4.RNN模型扩展------LSTM模型

  1. 简单RNN模型

简单RNN模型就是上述讲的历史状态+现在值作为输入的模型,这种模型缺点是会出现梯度爆炸或梯度消失,为了缓解这种问题出现了LSTM模型。

  • 梯度爆炸:在链式求导和激活函数综合影响下,梯度值过大,导致权重更新过大不可用。
  • 梯度消失:在链式求导和激活函数综合影响下,梯度值趋近于0,导致权重过小不可用。
  1. LTSM模型

LSTM模型对于记忆状态进行过滤和新增给出输出,它相比于传统的RNN模型降低了梯度消失和爆炸的可能。

  • 组成:记忆状态,三个sigmoid函数,两个tanH函数。
  • 组成介绍:sigmoid区间0-1,可以控制信息的流量。三个sigmoid函数分别控制遗忘门、输入门、输出门的信息流量。tanH区间-1~1,可以控制信息的增减,分别在输入门和输出门和sigmoid函数共同作用。
  • 具体流程:当前输入与第一个sigmoid函数结合确定有多少历史记忆状态需要过滤掉,然后将过滤后的历史状态与当前输入的某些信息相结合(第2个sigmoid函数和tanH控制是信息流量和增减情况),得到新的记忆状态。

LTSM模型示意图

参考文献:【数之道 09】揭开循环神经网络RNN模型的面纱_哔哩哔哩_bilibili

相关推荐
IT猿手16 小时前
基于CNN-LSTM的深度Q网络(Deep Q-Network,DQN)求解移动机器人路径规划,MATLAB代码
网络·cnn·lstm
hyshhhh16 小时前
【算法岗面试题】深度学习中如何防止过拟合?
网络·人工智能·深度学习·神经网络·算法·计算机视觉
Listennnn17 小时前
优雅的理解神经网络中的“分段线性单元”,解剖前向和反向传播
人工智能·深度学习·神经网络
牙牙要健康19 小时前
【目标检测】【深度学习】【Pytorch版本】YOLOV3模型算法详解
pytorch·深度学习·目标检测
Scc_hy19 小时前
强化学习_Paper_1988_Learning to predict by the methods of temporal differences
人工智能·深度学习·算法
誉鏐20 小时前
从零开始设计Transformer模型(1/2)——剥离RNN,保留Attention
人工智能·深度学习·transformer
神经星星20 小时前
无需预对齐即可消除批次效应,东京大学团队开发深度学习框架STAIG,揭示肿瘤微环境中的详细基因信息
人工智能·深度学习·机器学习
程序员Linc20 小时前
写给新人的深度学习扫盲贴:向量与矩阵
人工智能·深度学习·矩阵·向量
补三补四21 小时前
机器学习-聚类分析算法
人工智能·深度学习·算法·机器学习
荷包蛋蛋怪1 天前
【北京化工大学】 神经网络与深度学习 实验6 MATAR图像分类
人工智能·深度学习·神经网络·opencv·机器学习·计算机视觉·分类