先回顾一下正向传播的公式:
化简一下:
反向传播从下到上逐步求偏导:
对zt求偏导(预测值和标签值相减):
zt对未知数wt,ht,bt分别求偏导:
ht对ot,Ct求偏导:
ot对Net0求偏导:
Net0对w0,b0求偏导:
....
总体的思路就是那个公式从下到上逐步对未知数求偏导:
下面是总体的流程
对应的代码为:
相关推荐
i晟21 分钟前
对齐：让模型学会“做人“小飞猪。。2 小时前
笔记十四：从零开始搞懂 DPO——大模型偏好对齐的“直球”方案OceanBase数据库官方博客7 小时前
OceanBase DataPilot AIP：Ontology 承载AI能力面的另一条路笨鸟先飞，勤能补拙8 小时前
AI 赋能网络安全：技术全景、成熟度评估与实战案例一次旅行8 小时前
AI 前沿日报 | 2026年07月31日2601_963749108 小时前
标题：越华环保集团｜面向美丽河湖项目的数字化污水治理云边协同采集架构设计沐籽李9 小时前
从溶剂可及表面积SASA理解抗体结构与工程改造智慧物业老杨9 小时前
物业如何做好预算管理？落地架构逻辑微学AI9 小时前
一根针指向所有方向：挂谷猜想对 LLM Agent 技能-记忆架构的启示城管不管9 小时前
ReAct、Plan-and-Execute、Reflection 三大智能 Agent 范式核心区别