机器学习-时序预测2

门控循环单元GRU

接着机器学习-时序预测1-CSDN博客这个说,GRU是LSTM的一个简化而高效的变体,都使用"门控机制"来控制信息流,但它通过合并一些组件,使结构更简单、参数更少、计算更快,同时在许多任务上性能与 LSTM 相当甚至更好。

GRU没有了独立的细胞状态,也就是LSTM中的长期记忆,只有一个状态,但是通过"门控机制",让同时承担了长期和短期记忆的功能。而且只剩下了两个核心门控:

更新门,用sigmoid激活函数输出0-1的向量,中每个元素表示多少信息来自,多少信息来自

重置门,用sigmoid激活函数输出0-1的向量,中每个元素表示计算时考虑多少

候选隐藏状态,用到了重置门;

更新最终隐藏状态,用到了更新门,更新门决定了更相信过去还是现在。

同样的,还需要在输出层中对输出进行更新,就像机器学习-时序预测1-CSDN博客

相关推荐
愚公搬代码2 小时前
【愚公系列】《人工智能70年》044-数据科学崛起(安全与隐私,硬币的另一面)
人工智能·安全
黄啊码2 小时前
【黄啊码】AI总瞎编?不是BUG,而是天赋技能
人工智能
黄啊码2 小时前
【黄啊码】当内容成为“预制菜”,我们又该怎么办?
人工智能
黄啊码2 小时前
学完这节课,别再问我LLM是不是溜溜梅
人工智能
黄啊码3 小时前
【黄啊码】AI Coding正在让你平庸地付费上班
人工智能·ai编程
Francek Chen3 小时前
【深度学习计算机视觉】07:单发多框检测(SSD)
人工智能·pytorch·深度学习·计算机视觉·单发多框检测
深栈3 小时前
机器学习:编码方式
人工智能·python·机器学习·编码
dami_king3 小时前
RTX4090算力应用-3D
人工智能·深度学习·3d·ai
泰迪智能科技3 小时前
分享“泰迪杯”数据挖掘挑战赛全新升级——赛题精准对标,搭建 “白名单” 赛事进阶通道
人工智能·数学建模·数据挖掘
IT_陈寒4 小时前
Vite 5年迭代揭秘:3个核心优化让你的项目构建速度提升200%
前端·人工智能·后端