求导 z = x + y

求导 z=x+y\displaystyle z = x + yz=x+y

  • z 对 x 的偏导数:∂z∂x\displaystyle \frac{\partial z}{\partial x}∂x∂z,意思是 x 变 1,z 变多少?答案是 x 加 1,z 就加 1,永远是 1
  • z 对 y 的偏导数:∂z∂y\displaystyle \frac{\partial z}{\partial y}∂y∂z,同理,y 变 1,z 变多少?也是 1

基于链式法则的反向传播

计算图的反向传播从右到左传播信号。反向传播的计算顺序是,先将节点的输入信号乘以节点的局部导数(偏导数),然后再传递给下一个节点。
∂L∂x=∂L∂z×∂z∂x=∂L∂z×1=∂L∂z \displaystyle \frac{\partial L}{\partial x} = \frac{\partial L}{\partial z} \times \frac{\partial z}{\partial x} = \frac{\partial L}{\partial z} \times 1= \frac{\partial L}{\partial z}∂x∂L=∂z∂L×∂x∂z=∂z∂L×1=∂z∂L
∂L∂y=∂L∂z×∂z∂y=∂L∂z×1=∂L∂z \displaystyle \frac{\partial L}{\partial y} = \frac{\partial L}{\partial z} \times \frac{\partial z}{\partial y} = \frac{\partial L}{\partial z} \times 1= \frac{\partial L}{\partial z}∂y∂L=∂z∂L×∂y∂z=∂z∂L×1=∂z∂L

假定了一个最终输出值为L ,不管 x 和 y 是多少,L 对它们的导数,就等于上游传过来的 L 对 z 的导数

因为乘了个 1,等于没乘!加法节点的反向传播只是将输入信号输出到下一个节点。

假设有"10 + 5=15"这一计算,反向传播时,假设 从上游会传来值1.3。反向传播将1.3向下一个节点传递。

相关推荐
霍格沃兹测试开发学社测试人社区2 分钟前
Skills实战:从0到1封装一个“登录鉴权”Skill,拿来即用
人工智能
EasyCVR14 分钟前
国标GB28181视频监控平台EasyCVR夏季安防高风险场景的解决方案
人工智能·音视频
美狐美颜SDK开放平台21 分钟前
直播APP开发与第三方美颜SDK开发/集成实践分享
人工智能·美颜sdk·直播美颜sdk·视频美颜sdk·美颜api
邵宇然26 分钟前
llama.cpp 推理底座调优:从 KV Cache 到连续批处理的性能深潜
人工智能
云安全助手30 分钟前
Anthropic年度报告解读:AI重塑网络攻击形态,传统防御体系亟待升级
人工智能·安全·网络安全·ai大模型
pythonpioneer31 分钟前
PyTorch3D:基于 PyTorch 的高效 3D 深度学习工具库
pytorch·深度学习·其他·3d
谁似人间西林客39 分钟前
汽车智能制造解决方案:如何通过智能仓储物流降本提效?
人工智能·汽车·制造
jiushiapwojdap1 小时前
Antigravity Awesome Skills:1527+ AI 编程助手的可安装技能库
人工智能·其他
顾北顾1 小时前
多头注意力机制
人工智能·深度学习·算法