【LSTM和GRU极简,和最新的TT也就是状态】机器学习模型来学习状态

LSTM(长短期记忆网络)中的关键参数包括输入门、遗忘门、输出门、细胞状态和隐藏状态。以下是如何进行推理计算的示例:

LSTM参数和公式

  1. 输入门(i_t) :决定输入的信息量。

  2. 遗忘门(f_t) :决定遗忘上一个状态的信息量。

  3. 细胞状态(C_t) :存储长期信息。

  4. 输出门(o_t) :决定输出的信息量。

  5. 隐藏状态(h_t) :输出短期记忆。

推理计算示例

假设我们有以下输入数据和参数:

计算步骤

总结:训练所得四个权重,然后不停的更新状态,遗忘并输出

GRU 少了门,更新,重置,状态 3个权重。

相关推荐
Lambert-Wu2 小时前
常用激活函数总结
人工智能·深度学习·机器学习
ForDreamMusk2 小时前
批量归一化
人工智能·算法·机器学习
秉烛夜读5 小时前
机器学习:基本术语
机器学习
wahahaman8 小时前
基于GBDT的次日降水量预测实验
人工智能·python·机器学习·数据分析
学究天人9 小时前
数学公理体系大全:第一章 命题逻辑:真值之舞
人工智能·算法·机器学习·数学建模·动态规划·图论·抽象代数
齐昭王城10 小时前
PI0、PI0.5、PI0-FAST 原理讲解
人工智能·机器学习
workflower12 小时前
人形机器人全身运动控制能力大幅提升
人工智能·深度学习·机器学习·设计模式·机器人·自动化
机器学习之心12 小时前
扩散模型遇上 Transformer-GRU:小样本场景下的回归预测新范式
回归·gru·transformer·扩散模型
秉烛夜读12 小时前
机器学习:简介
机器学习
voidmort12 小时前
3. 理解 RoPE
人工智能·深度学习·机器学习·transformer