【LSTM和GRU极简,和最新的TT也就是状态】机器学习模型来学习状态

LSTM(长短期记忆网络)中的关键参数包括输入门、遗忘门、输出门、细胞状态和隐藏状态。以下是如何进行推理计算的示例:

LSTM参数和公式

  1. 输入门(i_t) :决定输入的信息量。

  2. 遗忘门(f_t) :决定遗忘上一个状态的信息量。

  3. 细胞状态(C_t) :存储长期信息。

  4. 输出门(o_t) :决定输出的信息量。

  5. 隐藏状态(h_t) :输出短期记忆。

推理计算示例

假设我们有以下输入数据和参数:

计算步骤

总结:训练所得四个权重,然后不停的更新状态,遗忘并输出

GRU 少了门,更新,重置,状态 3个权重。

相关推荐
今天AI了吗1 小时前
深度学习基础-Harness:从评估框架到工程落地
数据库·人工智能·sql·深度学习·机器学习
SomeB1oody1 小时前
【RustyML入门】5.2. 分类指标
开发语言·后端·机器学习·rust·教程
artificiali2 小时前
拼好卷02
机器学习
Ricardo-Yang4 小时前
无人机单目深度估计测试:ZipDepth 与 AerialMetric
人工智能·算法·机器学习·计算机视觉·无人机
W_326004 小时前
Python-OpenCV边缘检测与阈值分割:Sobel、Scharr、Laplacian、Canny、全局与自适应阈值
开发语言·图像处理·python·opencv·机器学习
龙腾AI白云6 小时前
世界模型与大模型的区别
机器学习·知识图谱·pygame
倔强的石头1067 小时前
【机器学习】损失函数全解_从MSE到交叉熵
人工智能·机器学习
SomeB1oody7 小时前
【RustyML入门】5.1. 回归指标
开发语言·后端·机器学习·rust·教程
珐恩AI-人工智能7 小时前
大模型隐性权重衰减机制剖析:详解GEO长效维稳如何避免优质
大数据·人工智能·深度学习·机器学习·geo优化