求导 z = x + y

求导 z=x+y\displaystyle z = x + yz=x+y

  • z 对 x 的偏导数:∂z∂x\displaystyle \frac{\partial z}{\partial x}∂x∂z,意思是 x 变 1,z 变多少?答案是 x 加 1,z 就加 1,永远是 1
  • z 对 y 的偏导数:∂z∂y\displaystyle \frac{\partial z}{\partial y}∂y∂z,同理,y 变 1,z 变多少?也是 1

基于链式法则的反向传播

计算图的反向传播从右到左传播信号。反向传播的计算顺序是,先将节点的输入信号乘以节点的局部导数(偏导数),然后再传递给下一个节点。
∂L∂x=∂L∂z×∂z∂x=∂L∂z×1=∂L∂z \displaystyle \frac{\partial L}{\partial x} = \frac{\partial L}{\partial z} \times \frac{\partial z}{\partial x} = \frac{\partial L}{\partial z} \times 1= \frac{\partial L}{\partial z}∂x∂L=∂z∂L×∂x∂z=∂z∂L×1=∂z∂L
∂L∂y=∂L∂z×∂z∂y=∂L∂z×1=∂L∂z \displaystyle \frac{\partial L}{\partial y} = \frac{\partial L}{\partial z} \times \frac{\partial z}{\partial y} = \frac{\partial L}{\partial z} \times 1= \frac{\partial L}{\partial z}∂y∂L=∂z∂L×∂y∂z=∂z∂L×1=∂z∂L

假定了一个最终输出值为L ,不管 x 和 y 是多少,L 对它们的导数,就等于上游传过来的 L 对 z 的导数

因为乘了个 1,等于没乘!加法节点的反向传播只是将输入信号输出到下一个节点。

假设有"10 + 5=15"这一计算,反向传播时,假设 从上游会传来值1.3。反向传播将1.3向下一个节点传递。

相关推荐
满怀冰雪26 分钟前
24-PaddleClas 模型评估、导出与推理部署入门
大数据·人工智能·python·深度学习·paddle
Mid_search2 小时前
随机排列与Fisher-Yates算法
人工智能·深度学习·强化学习·随机排列·fisher-yates
ZGIAI6 小时前
ZGI Workflow:条件分支走错时先查哪一层
人工智能·架构
X54先生(人文科技)6 小时前
《元创力》纪实录 · 桥段 《窑变纪元:一份来自星历2227年的深空考古笔记》
人工智能·开源·ai写作·零知识证明
ZGIAI6 小时前
ZGI 文件产物:生成报告后怎样交付
人工智能·架构
东方-教育技术博主6 小时前
自动编码在教育场景中的重要性:一项基于多源证据的深度综述
大数据·人工智能
骥龙6 小时前
模块二:Ollama本地模型部署与OpenCode代理配置
人工智能
阡之尘埃6 小时前
Python数据分析案例85——大模型微调全流程(SFT的LoRA微调)
人工智能·python·深度学习·语言模型·llm·微调·千问
Regentsoft丽晶软件6 小时前
品牌方新品上市促销政策无法实时同步经销商,有没有支持总部-经销商-终端一站式的分销解决方案?
人工智能·经验分享·数据库架构