先回顾一下正向传播的公式:
化简一下:
反向传播从下到上逐步求偏导:
对zt求偏导(预测值和标签值相减):
zt对未知数wt,ht,bt分别求偏导:
ht对ot,Ct求偏导:
ot对Net0求偏导:
Net0对w0,b0求偏导:
....
总体的思路就是那个公式从下到上逐步对未知数求偏导:
下面是总体的流程
对应的代码为:
相关推荐
锋行天下5 小时前
langgraph 后端发自定义数据，前端接收方法概括泯泷7 小时前
单个 AI 再强，为什么也干不过一支 AI 团队？浪遏7 小时前
认识 wm：从多平台发布到可扩展 CLI 的架构设计深蓝AI7 小时前
英伟达换帅当天，我先跑了一遍 GPU 环境体检：版本矩阵比人事更值得盯罗西的思考9 小时前
【轻量化复刻大模型 / KIMI K3】AttnRes 模块交互式演示stormzhangV9 小时前
涨薪 50% 怎么做到的？老金带你玩AI10 小时前
如何在5分钟之内创建Grok Bot的超级团队程序员cxuan10 小时前
离谱，AI 大佬顺手搓了个 YouTube ，而我顺手给他搓了个中文插件zixu_star10 小时前
上下文工程：Prompt、记忆和上下文如何管理？ZONGYUAN-ROOT10 小时前
【3D仿真数据集】从“能生成”到“能用”：面向工业仿真的3D资产自治自愈流水线全链路落地