【Pytorch✨】LSTM01 入门

🪶 一、LSTM 是什么?

LSTM(Long Short-Term Memory)是一种特殊的循环神经网络(RNN),能够记住"过去的信息"并决定"哪些记住,哪些忘掉"。

它非常适合处理以下这种"时间有关"的任务:

  • 给一段文字,让模型猜下一个词
  • 给一段语音,让模型识别其中内容
  • 给一串气温数据,让模型预测明天的温度

🪶 二、为什么叫"长短期记忆"?

这个名字说明了它的最大特点:

含义
Long(长期) 能保留很久以前的有用信息,比如前面的一个关键词
Short(短期) 也能处理最近刚刚输入的信息
Memory(记忆) 就像人脑一样,记住或忘记信息有"策略"和"意图"

传统的 RNN 容易"忘掉"很久之前的信息,而 LSTM 通过"门控结构"克服了这个问题!


📥 三、LSTM 的输入/输出长什么样?

假设我们用 LSTM 来预测天气(气温),你有:

复制代码
数据: [21.0, 21.3, 21.8] → 想预测下一个值 22.0
输入 X 是形状为 [batch_size, seq_len, input_size] 的张量

可以理解成:一次给 LSTM 喂多少条序列,每条序列有多少时间步,每个时间步的输入有多少个特征

复制代码
例如:`[[[21.0], [21.3], [21.8]]]` → `[1, 3, 1]`
名称 含义 举例
batch_size 一次送入模型的"样本数量"(多少条数据) 10 表示一次训练 10 条序列
seq_len 每条序列的"时间步"长度(有几个输入) 5 表示每条数据是 5 天的气温
input_size 每个时间步包含几个"特征" 1 表示每步只输入一个数字(如温度)
输出 y 是下一个值,比如 [[22.0]]

🪶 四、LSTM 的内部结构(过程)

LSTM 的核心是 "三个门 + 一个细胞状态":

复制代码
          ┌─────────────────────────────┐
输入 →───►│ 1. 遗忘门(forget gate)     │  ← 过去记忆决定要忘掉多少
          └─────────────────────────────┘
          ┌─────────────────────────────┐
输入 →───►│ 2. 输入门(input gate)       │  ← 新信息能不能写入记忆
          └─────────────────────────────┘
          ┌─────────────────────────────┐
过去记忆 →│ 3. 输出门(output gate)      │──► 输出(隐状态)给下一步
          └─────────────────────────────┘

小结

作用
遗忘门 决定"旧记忆要不要保留"
输入门 决定"新输入要不要加入到记忆中"
输出门 决定"当前记忆要不要输出到下一个"

🪶 五、整体流程图

复制代码
时间步1     时间步2     时间步3
x₁ ─┬─► LSTM ─► h₁ ─┬─► LSTM ─► h₂ ─┬─► LSTM ─► h₃
     │               │               │
   c₁(记忆)      c₂(记忆)      c₃(记忆)

每个时间步都会:

  • 接收一个输入 xₜ
  • 接收前一个时间步的隐藏状态 hₜ₋₁ 和记忆状态 cₜ₋₁
  • 输出当前的隐藏状态 hₜ 和更新后的记忆 cₜ

相关推荐
硬汉嵌入式5 小时前
专为 MATLAB 优化的 AI 助手MATLAB Copilot
人工智能·matlab·copilot
北京盛世宏博5 小时前
如何利用技术手段来甄选一套档案馆库房安全温湿度监控系统
服务器·网络·人工智能·选择·档案温湿度
搞科研的小刘选手6 小时前
【EI稳定】检索第六届大数据经济与信息化管理国际学术会议(BDEIM 2025)
大数据·人工智能·经济
半吊子全栈工匠6 小时前
软件产品的10个UI设计技巧及AI 辅助
人工智能·ui
机器之心6 小时前
真机RL!最强VLA模型π*0.6来了,机器人在办公室开起咖啡厅
人工智能·openai
机器之心6 小时前
马斯克Grok 4.1低调发布!通用能力碾压其他一切模型
人工智能·openai
一水鉴天7 小时前
整体设计 全面梳理复盘 之39 生态工具链 到顶级表征及其完全公理化
大数据·人工智能·算法
小和尚同志7 小时前
本地 AI Code Review 探索及落地
人工智能·aigc
Juchecar7 小时前
视觉分层,对人工神经网络的启示
人工智能
Juchecar8 小时前
解析视觉:视觉识别的七层模型
人工智能