先回顾一下正向传播的公式:
化简一下:
反向传播从下到上逐步求偏导:
对zt求偏导(预测值和标签值相减):
zt对未知数wt,ht,bt分别求偏导:
ht对ot,Ct求偏导:
ot对Net0求偏导:
Net0对w0,b0求偏导:
....
总体的思路就是那个公式从下到上逐步对未知数求偏导:
下面是总体的流程
对应的代码为:
相关推荐
needn5 分钟前
TRAE为什么要发布SOLO版本？毅航10 分钟前
自然语言处理发展史：从规则、统计到深度学习前端付豪42 分钟前
LangChain链 写一篇完美推文？用SequencialChain链接不同的组件ursazoo1 小时前
写了一份 7000字指南，让 AI 帮我消化每天的信息流_志哥_4 小时前
Superpowers 技术指南：让 AI 编程助手拥有超能力YongGit5 小时前
OpenClaw 本地 AI 助手完全指南：飞书接入 + 远程部署实战程序员鱼皮6 小时前
斯坦福大学竟然开了个 AI 编程课？！我已经学上了星浩AI7 小时前
Skill 的核心要素与渐进式加载架构——如何设计一个生产可用的 Skill？树獭非懒7 小时前
告别繁琐多端开发：DivKit 带你玩转 Server-Driven UI！阿尔的代码屋7 小时前
[大模型实战 07] 基于 LlamaIndex ReAct 框架手搓全自动博客监控 Agent