pytorch-pytorch之LSTM

目录

  • [1. nn.LSTM](#1. nn.LSTM)
  • [2. nn.LSTMCell](#2. nn.LSTMCell)

1. nn.LSTM

初始化函数输入参数与RNN相同,分别是input_size,hidden_size和num_layer

foward函数也与RNN类似,只不过返回值除了out外,ht变为(ht,ct)

代码见下图:

2. nn.LSTMCell

初始化函数输入参数与nn.LSTM类似

forward函数与nn.LSTM的区别是没有out

单层代码如下图:

和RNN的Cell类似,Cell单元循环更新h,c

2层无非就是多创建了一个cell2、h2、c2,并同时循环更新h1,c1,h2,c2,多层以此类推。

相关推荐
锋行天下4 小时前
服务器 Python 2.7 装不了 langgraph-cli?用本地生成 Dockerfile 曲线救国
人工智能·后端·python
一条大祥脚4 小时前
深入理解 PyTorch FlexAttention:从 Score Mod 到 Mask Mod 的稀疏加速之道
人工智能·pytorch·python·注意力机制·flex attention·可编程注意力
机 _ 长4 小时前
03 智算运维|丢 0.1% 的包,8 卡训练为什么会崩
人工智能·模型部署·智算运维
汤姆宝库4 小时前
权重量化的实现:从absmax到GPTQ与AWQ
人工智能
硅谷秋水5 小时前
PhysicalWords:一种用于构建机器人操作中潜推理过程的词汇体系
人工智能·机器学习·计算机视觉·语言模型·机器人
喵个咪5 小时前
GoWind 拆解:AI Agent 编排引擎——波次并行、子图递归与人工审批
人工智能·后端·go
ZzT6 小时前
AI 是放大器:基础越扎实,放大效果越明显
人工智能·ai编程
喵个咪6 小时前
GoWind Admin 拆解:AI 能力层——工具循环、pgvector 知识库与机器凭证
人工智能·后端·agent
老金带你玩AI6 小时前
10秒出4K,MiniMax还开源了!H3 Image上线!
人工智能
mantou1326 小时前
只用 Cloudflare 全家桶,给游戏站做一个 RAG 搜索和问答
人工智能·llm