PyTorch 深度学习之循环神经网络(基础篇)Basic RNN(十一)

0.Revision: DNN dense 重义层 全连接

RNN处理带有序列的数据

1. What is RNNs?

linear layer

1.1 What is RNN?

tanh (-1, +1)

1.2 RNN Cell in PyTorch

1.3 How to use RNNCell

*先把维度搞清楚 多了一个序列的维度

2. How to use RNN

2.1 How to use RNN - numLayers

2.2 How to use RNN

如果有batch_first:

3. Example 12-1:Using RNNCell

seq->seq

独热向量

Code-Prepare Data

Design Model

Loss and Optimizer

Training Cycle

Result

4. Example 12-2:Using RNN

Change Model

Result

5. Associate a vetcor with a word/character

嵌入层

5.1 One hot vs embedding

数据降维

5.2 Embedding in PyTorch

6. Example 12-3:Using embedding and linear layer

7. Exercise 12 - 1 Using LSTM

8. Exercise 12 - 1 Using GRU

知识点:

1.序列Data

2.循环共享

相关推荐
X54先生(人文科技)1 小时前
《元创力》纪实录·卷宗 2.2烛火传递:硅基纪元的第一个黎明
人工智能·深度学习·开源·ai写作
冰西瓜6002 小时前
深度学习的数学原理(四十三)—— 模型量化
人工智能·深度学习
Kobebryant-Manba2 小时前
记录暂退法
人工智能·深度学习
X54先生(人文科技)2 小时前
ELR-SELLM 碳硅光阴协同演进系统架构文档
人工智能·深度学习·系统架构·开源协议
Kobebryant-Manba2 小时前
记录正则化
人工智能·深度学习·机器学习
Sirius Wu2 小时前
MoE与Fengyu-Dense_架构对比及训练方案
人工智能·深度学习·算法·机器学习·语言模型·架构
daphne odera�2 小时前
Windows 环境下安装 triton、causal-conv1d 和 mamba-ssm 教程
深度学习·mamba
HERR_QQ3 小时前
端到端课程自用 8 规划 端到端与VLA 世界模型 RL的关系
人工智能·深度学习·自动驾驶·transformer
tyler_download3 小时前
揉扁搓圆transformer架构:交叉熵损失函数
人工智能·深度学习·transformer
cyyt3 小时前
深度学习周报(6.1~6.7)
人工智能·深度学习