PyTorch 深度学习之循环神经网络(基础篇)Basic RNN(十一)

0.Revision: DNN dense 重义层 全连接

RNN处理带有序列的数据

1. What is RNNs?

linear layer

1.1 What is RNN?

tanh (-1, +1)

1.2 RNN Cell in PyTorch

1.3 How to use RNNCell

*先把维度搞清楚 多了一个序列的维度

2. How to use RNN

2.1 How to use RNN - numLayers

2.2 How to use RNN

如果有batch_first:

3. Example 12-1:Using RNNCell

seq->seq

独热向量

Code-Prepare Data

Design Model

Loss and Optimizer

Training Cycle

Result

4. Example 12-2:Using RNN

Change Model

Result

5. Associate a vetcor with a word/character

嵌入层

5.1 One hot vs embedding

数据降维

5.2 Embedding in PyTorch

6. Example 12-3:Using embedding and linear layer

7. Exercise 12 - 1 Using LSTM

8. Exercise 12 - 1 Using GRU

知识点:

1.序列Data

2.循环共享

相关推荐
吴佳浩 Alben10 小时前
GPU 生产环境实践:硬件拓扑、显存管理与完整运维体系
运维·人工智能·pytorch·语言模型·transformer·vllm
湘美书院--湘美谈教育12 小时前
湘美谈教育湘美书院网文研究:人工智能与微型小说选集
人工智能·深度学习·神经网络·机器学习·ai写作
梦醒过后说珍重13 小时前
炼丹笔记:感知超分辨率模型中复合损失权重的科学调参SOP
深度学习
CoovallyAIHub13 小时前
Pipecat:构建实时语音 AI Agent 的开源编排框架,500ms 级端到端延迟
深度学习·算法·计算机视觉
CoovallyAIHub13 小时前
Energies | 8版YOLO对8版Transformer实测光伏缺陷检测,RF-DETR-Small综合胜出
深度学习·算法·计算机视觉
zh路西法14 小时前
【宇树机器人强化学习】(七):复杂地形的生成与训练
python·深度学习·机器学习·机器人
逄逄不是胖胖15 小时前
《动手学深度学习》-69预训练bert数据集实现
人工智能·深度学习·bert
CoovallyAIHub15 小时前
2.5GB 塞进浏览器:Mistral 开源实时语音识别,延迟不到半秒
深度学习·算法·计算机视觉
mygugu15 小时前
详细分析swanlab集成mmengine底层实现机制--源码分析
python·深度学习·可视化
Hello.Reader15 小时前
词语没有位置感?用“音乐节拍“给 Transformer 装上时钟——Positional Encoding 图解
人工智能·深度学习·transformer