每天五分钟深度学习:如何使用计算图来反向计算参数的导数?

本文重点

在上一个课程中,我们使用一个例子来计算函数J,也就相当于前向传播的过程,本节课程我们将学习如何使用计算图计算函数J的导数。相当于反向传播的过程。

计算J对v的导数,dJ/dv=3

计算J对a的导数,dJ/da=(dJ/dv)*(dv/da)=3*1=3

计算J对u的导数,dJ/du=(dJ/dv)*(dv/du)=3*1=3

计算J对b的导数,dJ/db=(dJ/dv)*(dv/du)*(du/db)=3*1*c=3c

因为本例中c=2,所以dJ/db=6

以上都是输出值J(最终变量J)对其它变量的导数,这里我们要引入一种新的符号,我们使用:

dv来表示dJ/dv

da来表示dJ/da

du来表示dJ/du

db来表示dJ/db

现在我们已经知道了输出J对其它变量的导数计算方法,核心就是从右往左按照计算图进行链式计算。

相关推荐
Seon塞翁20 分钟前
2025年AI大事记:从 DeepSeek R1 到 MiniMax M2.1,我们改变了什么?
人工智能
小李子不吃李子29 分钟前
人工智能与创新第二章练习题
人工智能·学习
deephub41 分钟前
Lux 上手指南:让 AI 直接操作你的电脑
人工智能·python·大语言模型·agent
byzh_rc1 小时前
[模式识别-从入门到入土] 专栏总结
人工智能·机器学习
yesyesyoucan1 小时前
标题:AI图片背景去除全能站:从复杂场景到透明底图的智能解构方案
人工智能
ai_xiaogui1 小时前
Panelai 深度解析:新一代 AI 服务器管理面板,如何实现闲置算力变现与多租户商业化部署?
人工智能·零基础部署 comfyui·多租户 ai 计费面板·gpu 算力租赁平台搭建·私有化 ai 部署商业方案
LINGYI0001 小时前
什么是品牌全案?新品牌如何制定品牌规划?
人工智能·天猫代运营·品牌全案
AGI_Eval1 小时前
AGI-Eval 2025年度报告精选 | 以数据为尺,度量智能边界
人工智能
策知道1 小时前
从“抗旱保苗”到“修渠引水”:读懂五年财政政策的变奏曲
大数据·数据库·人工智能·搜索引擎·政务
洞见新研社1 小时前
从实验室走向真实世界,2025年具身智能的产业突破与挑战
人工智能