求导 z = x + y

求导 z=x+y\displaystyle z = x + yz=x+y

  • z 对 x 的偏导数:∂z∂x\displaystyle \frac{\partial z}{\partial x}∂x∂z,意思是 x 变 1,z 变多少?答案是 x 加 1,z 就加 1,永远是 1
  • z 对 y 的偏导数:∂z∂y\displaystyle \frac{\partial z}{\partial y}∂y∂z,同理,y 变 1,z 变多少?也是 1

基于链式法则的反向传播

计算图的反向传播从右到左传播信号。反向传播的计算顺序是,先将节点的输入信号乘以节点的局部导数(偏导数),然后再传递给下一个节点。
∂L∂x=∂L∂z×∂z∂x=∂L∂z×1=∂L∂z \displaystyle \frac{\partial L}{\partial x} = \frac{\partial L}{\partial z} \times \frac{\partial z}{\partial x} = \frac{\partial L}{\partial z} \times 1= \frac{\partial L}{\partial z}∂x∂L=∂z∂L×∂x∂z=∂z∂L×1=∂z∂L
∂L∂y=∂L∂z×∂z∂y=∂L∂z×1=∂L∂z \displaystyle \frac{\partial L}{\partial y} = \frac{\partial L}{\partial z} \times \frac{\partial z}{\partial y} = \frac{\partial L}{\partial z} \times 1= \frac{\partial L}{\partial z}∂y∂L=∂z∂L×∂y∂z=∂z∂L×1=∂z∂L

假定了一个最终输出值为L ,不管 x 和 y 是多少,L 对它们的导数,就等于上游传过来的 L 对 z 的导数

因为乘了个 1,等于没乘!加法节点的反向传播只是将输入信号输出到下一个节点。

假设有"10 + 5=15"这一计算,反向传播时,假设 从上游会传来值1.3。反向传播将1.3向下一个节点传递。

相关推荐
斯坦SteinY2 小时前
Git Worktree + Claude Code同时开发多个功能
人工智能·chatgpt·prompt·aigc·claude·并行开发
Ashley_Amanda2 小时前
UiPath完全指南:从入门到精通
大数据·人工智能
Legend NO242 小时前
精准定位企业竞争战略:经典理论与智能升维下的战略落地方法论
人工智能
小荟荟2 小时前
全国数据资产新闻和报纸摘要联播 2026年3月22日 第25期
大数据·人工智能·数据挖掘
灵机一物2 小时前
灵机一物AI原生电商小程序(已上线)-AI全链路自动化!内容推广系统架构解析(附落地细节)
人工智能·系统架构·自动化·内容推广
进击monkey2 小时前
装修行业 × PandaWiki:构建多端产品统一知识库,提升用户体验与运营效率
人工智能·开源·ai知识库
雷焰财经2 小时前
首都在线MaaS平台:打造企业级AI中枢,驱动游戏产业智变
大数据·人工智能·游戏
LcGero2 小时前
Cocos Creator 的 NPC AI 架构实现
人工智能·ai·架构·npc
2501_933329552 小时前
Infoseek舆情监测系统:基于大模型与多模态AI的品牌公关中台架构设计与实现
人工智能·分布式·自然语言处理·架构