求导 z = x + y

求导 z=x+y\displaystyle z = x + yz=x+y

  • z 对 x 的偏导数:∂z∂x\displaystyle \frac{\partial z}{\partial x}∂x∂z,意思是 x 变 1,z 变多少?答案是 x 加 1,z 就加 1,永远是 1
  • z 对 y 的偏导数:∂z∂y\displaystyle \frac{\partial z}{\partial y}∂y∂z,同理,y 变 1,z 变多少?也是 1

基于链式法则的反向传播

计算图的反向传播从右到左传播信号。反向传播的计算顺序是,先将节点的输入信号乘以节点的局部导数(偏导数),然后再传递给下一个节点。
∂L∂x=∂L∂z×∂z∂x=∂L∂z×1=∂L∂z \displaystyle \frac{\partial L}{\partial x} = \frac{\partial L}{\partial z} \times \frac{\partial z}{\partial x} = \frac{\partial L}{\partial z} \times 1= \frac{\partial L}{\partial z}∂x∂L=∂z∂L×∂x∂z=∂z∂L×1=∂z∂L
∂L∂y=∂L∂z×∂z∂y=∂L∂z×1=∂L∂z \displaystyle \frac{\partial L}{\partial y} = \frac{\partial L}{\partial z} \times \frac{\partial z}{\partial y} = \frac{\partial L}{\partial z} \times 1= \frac{\partial L}{\partial z}∂y∂L=∂z∂L×∂y∂z=∂z∂L×1=∂z∂L

假定了一个最终输出值为L ,不管 x 和 y 是多少,L 对它们的导数,就等于上游传过来的 L 对 z 的导数

因为乘了个 1,等于没乘!加法节点的反向传播只是将输入信号输出到下一个节点。

假设有"10 + 5=15"这一计算,反向传播时,假设 从上游会传来值1.3。反向传播将1.3向下一个节点传递。

相关推荐
海蓝可知天湛5 小时前
Agent&IELTS雅思口语专属语料库
人工智能·github·rag·ielts·skills
随身数智备忘录5 小时前
什么是设备管理体系?设备管理体系包含哪些核心模块?
网络·数据库·人工智能
OpenBayes贝式计算5 小时前
涵盖 OCR 与多轮对话:1.3B 端侧多模态模型 MiniCPM-V-4.6 正式发布;百万级智能体数据集 AgentTrove 开源!包含代码修复及数学求解
人工智能
189228048616 小时前
NY352固态MT29F32T08GWLBHD6-24QJ:B
大数据·服务器·人工智能·科技·缓存
南屹川6 小时前
【数据库】PostgreSQL实战:从基础到高级特性
人工智能
zhangxingchao6 小时前
多 Agent 架构到底怎么选?从 Claude Agent Teams、Cognition/Devin 到工程落地原则
前端·人工智能·后端
不开大的凯20776 小时前
麦当秀AiPPT战略转向:从SaaS订阅迈向Token经济,AI办公定价模式迎来新探索
大数据·人工智能
Mr数据杨6 小时前
【CanMV K210】显示交互 LCD1602 I2C 通信与滚动文本显示
人工智能·交互·硬件开发·canmv k210
IT_陈寒6 小时前
SpringBoot那个自动配置的坑,害我排查到凌晨三点
前端·人工智能·后端
常威正在打来福6 小时前
不想让你的网页长得像「AI 做的」?试试这个
人工智能·aigc·ai编程