PyTorch 深度学习之循环神经网络(基础篇)Basic RNN(十一)

0.Revision: DNN dense 重义层 全连接

RNN处理带有序列的数据

1. What is RNNs?

linear layer

1.1 What is RNN?

tanh (-1, +1)

1.2 RNN Cell in PyTorch

1.3 How to use RNNCell

*先把维度搞清楚 多了一个序列的维度

2. How to use RNN

2.1 How to use RNN - numLayers

2.2 How to use RNN

如果有batch_first:

3. Example 12-1:Using RNNCell

seq->seq

独热向量

Code-Prepare Data

Design Model

Loss and Optimizer

Training Cycle

Result

4. Example 12-2:Using RNN

Change Model

Result

5. Associate a vetcor with a word/character

嵌入层

5.1 One hot vs embedding

数据降维

5.2 Embedding in PyTorch

6. Example 12-3:Using embedding and linear layer

7. Exercise 12 - 1 Using LSTM

8. Exercise 12 - 1 Using GRU

知识点:

1.序列Data

2.循环共享

相关推荐
sel_917 分钟前
【OPD论文导读(二)】OPD(On-Policy Distillation)全景调研:十篇论文讲透“在自己生成的内容上学习“这件事
人工智能·python·深度学习·学习·算法·语言模型
北山小恐龙19 分钟前
使用手势在电脑刷抖音
人工智能·python·深度学习·yolo·机器学习·计算机视觉
richard_first44 分钟前
Transformer与大语言模型:第11章 Encoder 是如何理解句子的
深度学习·语言模型·transformer
sel_92 小时前
【多轮对话论文导读(七)】多轮对话论文阅读笔记:从数据生成、用户模拟到上下文重构与长期记忆
论文阅读·人工智能·笔记·深度学习·算法·语言模型·自然语言处理
Zach_菠萝侠2 小时前
【deepseek harness研究】进化方向10:对外编程接口面 思考、设计与实现
人工智能·深度学习·deepseek
ai小陈3 小时前
PyTorch多GPU分布式训练实战:从单卡脚本迁移到DDP
服务器·人工智能·pytorch·分布式·深度学习·ai·gpu算力
小小帅呀3 小时前
学习 VLA 第 4 天:Transformer 原理与复现实战
深度学习·学习·transformer
EW Frontier3 小时前
CMA-Former:基于级联多头注意力 Transformer 的 DOA 波达方向估计(PyTorch 实现)
pytorch·深度学习·transformer·doa估计
Zguigo3 小时前
【DL】链式法则|反向传播|神经网络梯度
人工智能·深度学习·神经网络
老郑聊AI业财智造3 小时前
给大模型装上“金融之眼”:Kronos-Report的量化预测架构与技术全景剖析
人工智能·python·深度学习·语言模型·金融·架构·软件工程