机器学习-时序预测2

门控循环单元GRU

接着机器学习-时序预测1-CSDN博客这个说,GRU是LSTM的一个简化而高效的变体,都使用"门控机制"来控制信息流,但它通过合并一些组件,使结构更简单、参数更少、计算更快,同时在许多任务上性能与 LSTM 相当甚至更好。

GRU没有了独立的细胞状态,也就是LSTM中的长期记忆,只有一个状态,但是通过"门控机制",让同时承担了长期和短期记忆的功能。而且只剩下了两个核心门控:

更新门:,用sigmoid激活函数输出0-1的向量,中每个元素表示多少信息来自,多少信息来自;

重置门:,用sigmoid激活函数输出0-1的向量,中每个元素表示计算时考虑多少;

候选隐藏状态:,用到了重置门;

更新最终隐藏状态:,用到了更新门,更新门决定了更相信过去还是现在。

同样的,还需要在输出层中对输出进行更新,就像机器学习-时序预测1-CSDN博客。

相关推荐
IT古董10 分钟前
《FDE前沿部署工程师实战教程》29 - Enterprise AI Security:Agent安全体系设计
大数据·数据库·人工智能
会议咨询28 分钟前
2026年计算机技术、信息工程与机器学习国际会议(CIML 2026)
机器学习·计算机技术·信息工程
m4Rk_29 分钟前
【论文阅读】Agent 记忆机制(87):VizoMem——把文本历史转化为可检索的视觉记忆
论文阅读·人工智能·学习·开源·github
让学习成为一种生活方式37 分钟前
啤酒花基因组与重测序--Nature Communications
人工智能·算法
2601_9499506338 分钟前
错题总是反复错?用练题簿在线刷题,把复习重点找出来
人工智能·小程序·刷题·练习·小程序推荐
lpfasd12340 分钟前
GitHub非AI开源方向调研报告
人工智能·开源·github
知几蜗牛44 分钟前
OLMo-core 3的token gerrymandering提醒:MoE路由要按时间窗验收
人工智能
知几蜗牛1 小时前
Computer Use公共预览的安全设计:应用、动作与数据三维门禁
人工智能
tuanxiang1 小时前
实现文本AI检测免费自建方案,绕开接口调用收费坑
人工智能·计算机视觉
打工仔折腾 AI1 小时前
飞牛OS上用Docker Compose部署ExerciseDiary运动记录并配置远程访问
运维·人工智能·后端·python·docker·容器·ai agent 实战