PyTorch 深度学习之循环神经网络(基础篇)Basic RNN(十一)

0.Revision: DNN dense 重义层 全连接

RNN处理带有序列的数据

1. What is RNNs?

linear layer

1.1 What is RNN?

tanh (-1, +1)

1.2 RNN Cell in PyTorch

1.3 How to use RNNCell

*先把维度搞清楚 多了一个序列的维度

2. How to use RNN

2.1 How to use RNN - numLayers

2.2 How to use RNN

如果有batch_first:

3. Example 12-1:Using RNNCell

seq->seq

独热向量

Code-Prepare Data

Design Model

Loss and Optimizer

Training Cycle

Result

4. Example 12-2:Using RNN

Change Model

Result

5. Associate a vetcor with a word/character

嵌入层

5.1 One hot vs embedding

数据降维

5.2 Embedding in PyTorch

6. Example 12-3:Using embedding and linear layer

7. Exercise 12 - 1 Using LSTM

8. Exercise 12 - 1 Using GRU

知识点:

1.序列Data

2.循环共享

相关推荐
狂奔蜗牛(bradley)4 小时前
深度学习三大基础激活函数详解:Sigmoid、Tanh、ReLU 公式、导数、图像与优缺点对比
人工智能·深度学习
船厂电气自动化ai大模型4 小时前
AI大模型与数学 第32课 函数凹凸性与二阶导数:拐点求解、凹凸区间计算(10道二阶导数计算题)
数据结构·人工智能·python·深度学习·算法
小O的算法实验室6 小时前
IEEE TII,学习为多目标深度学习生成偏好
人工智能·深度学习·学习
江畔柳前堤7 小时前
Function Calling 与 Tool Calling:从认知到工程的全景深度解析
开发语言·网络·人工智能·深度学习·算法·机器学习·php
qq_422152579 小时前
Token到底是什么?Tokenizer分词机制与中文token开销入门科普
人工智能·python·深度学习
AndrewHZ9 小时前
【LLM技术全景】RAG 从原理到实战——检索增强生成完整指南
人工智能·深度学习·算法·llm·检索增强·生成式模型·rag
夏文强10 小时前
AI 技术全景架构科普:从算法到应用的一整套技术栈
人工智能·深度学习·机器学习·大语言模型·技术架构
是上好佳佳佳呀11 小时前
【深度学习|DAY04】神经网络深度学习笔记(下):损失函数、优化器与正则化
笔记·深度学习·神经网络
阿图灵12 小时前
基于 GRU 的 Seq2Seq 中英机器翻译:从 Tatoeba 语料到 BLEU 0.195
深度学习·gru·nlp·机器翻译·seq2seq
GoCodingInMyWay12 小时前
PaddleOCR 开始
pytorch·ai·ocr