LSTM反向传播及公式推导

先回顾一下正向传播的公式:

化简一下:

反向传播从下到上逐步求偏导:

对zt求偏导(预测值和标签值相减):

zt对未知数wt,ht,bt分别求偏导:

ht对ot,Ct求偏导:

ot对Net0求偏导:

Net0对w0,b0求偏导:

....

总体的思路就是那个公式从下到上逐步对未知数求偏导:

下面是总体的流程

对应的代码为:

相关推荐
具身AGI6 分钟前
人机协同预训练:三条路线,一条拉开差距
人工智能
东风破_7 分钟前
LangSmith:从链路追踪到 RAG 自动化评估
人工智能
东方芷兰14 分钟前
Agent 技术摘要 04 —— AI4S、VLM、VLA、VLN、WM、AI Infra
人工智能
catchadmin16 分钟前
用 Jev 与 Laravel AI SDK 检测垃圾邮件和自动回复
数据库·人工智能·laravel
一 铭39 分钟前
Pi实战 05:本地模型 · MCP · 安全沙箱篇
人工智能·ai·agent·harness
198******126341 小时前
2026企业AI办公工具选型指南:从评估框架到场景适配
大数据·运维·人工智能
OxYGC1 小时前
[AI工程]Jev 决策模型第二篇:三原语、一次多问与置信度路由,从 Playground 到能上线的代码
人工智能
楚来客1 小时前
AI基础概念之十四:时空Transformer架构
人工智能·深度学习·transformer
u1301301 小时前
AI 日报(2026年10月2日)
人工智能
数字化顾问2 小时前
(138页PPT)流程体系的建设优化与运营(附下载方式)
大数据·运维·人工智能