PyTorch 深度学习之循环神经网络(基础篇)Basic RNN(十一)

0.Revision: DNN dense 重义层 全连接

RNN处理带有序列的数据

1. What is RNNs?

linear layer

1.1 What is RNN?

tanh (-1, +1)

1.2 RNN Cell in PyTorch

1.3 How to use RNNCell

*先把维度搞清楚 多了一个序列的维度

2. How to use RNN

2.1 How to use RNN - numLayers

2.2 How to use RNN

如果有batch_first:

3. Example 12-1:Using RNNCell

seq->seq

独热向量

Code-Prepare Data

Design Model

Loss and Optimizer

Training Cycle

Result

4. Example 12-2:Using RNN

Change Model

Result

5. Associate a vetcor with a word/character

嵌入层

5.1 One hot vs embedding

数据降维

5.2 Embedding in PyTorch

6. Example 12-3:Using embedding and linear layer

7. Exercise 12 - 1 Using LSTM

8. Exercise 12 - 1 Using GRU

知识点:

1.序列Data

2.循环共享

相关推荐
大熊背14 小时前
冯‑克里斯映射估计算法逻辑
深度学习·机器学习·计算机视觉·白平衡·色调映射·冯-克里斯映射估计
147API14 小时前
蒸馏模型上线后怎样设置教师回退,避免失败请求反复烧钱
大数据·人工智能·深度学习·机器学习·蒸馏
差不多的周周14 小时前
《MoChat:面向多转弯动作理解和描述的关节分组时空接地多通道大语言模型》论文核心部分详解
人工智能·深度学习·机器学习·计算机视觉·语言模型·自然语言处理
Zzj_tju15 小时前
小模型指令微调:数据混合、模板与过拟合的最小复现
人工智能·深度学习·机器学习·语言模型
孤狼warrior15 小时前
SCTR 五次失败的安全 BN 路由器
人工智能·python·深度学习·算法·安全·yolo
Hali_Botebie15 小时前
地平线PrepareMethod:EAGER和Graph Model
人工智能·深度学习
承渊政道16 小时前
【从零开始大模型开发与微调:基于PyTorch与ChatGLM】(实战训练自己的ChatGPT从续写模型到对齐助手:RLHF、奖励模型与PPO精读)
人工智能·pytorch·chatgpt·预训练·rlhf·大模型微调
June bug16 小时前
【HCIA- AI(正课)】2.4 循环神经网络
人工智能·rnn·深度学习
YOLO数据集集合16 小时前
红外热成像人员检测数据集 |红外检测 白热模式 人员检测 夜间监控 目标检测 YOLO格式 深度学习数据集 计算机视觉9067期
数据库·深度学习·yolo·目标检测·计算机视觉·红外人员·红外数据
李帅朋1 天前
微分基本定义笔记
人工智能·笔记·深度学习·神经网络