每天五分钟深度学习:如何使用计算图来反向计算参数的导数?

本文重点

在上一个课程中,我们使用一个例子来计算函数J,也就相当于前向传播的过程,本节课程我们将学习如何使用计算图计算函数J的导数。相当于反向传播的过程。

计算J对v的导数,dJ/dv=3

计算J对a的导数,dJ/da=(dJ/dv)*(dv/da)=3*1=3

计算J对u的导数,dJ/du=(dJ/dv)*(dv/du)=3*1=3

计算J对b的导数,dJ/db=(dJ/dv)*(dv/du)*(du/db)=3*1*c=3c

因为本例中c=2,所以dJ/db=6

以上都是输出值J(最终变量J)对其它变量的导数,这里我们要引入一种新的符号,我们使用:

dv来表示dJ/dv

da来表示dJ/da

du来表示dJ/du

db来表示dJ/db

现在我们已经知道了输出J对其它变量的导数计算方法,核心就是从右往左按照计算图进行链式计算。

相关推荐
继续商行21 小时前
探秘 Go 动态数组:pprof 排查大数据切片 GC 停顿
人工智能
OBiO201321 小时前
如何利用AAV精准靶向血管平滑肌细胞(VSMCs)?
人工智能
lwyingdao21 小时前
Codex接入国产大模型,三步配置,无需OpenAI账号
人工智能·ai编程·ai工具
团象科技21 小时前
出海企业算力适配调研:深度学习模型云端搭建的落地观察
人工智能·深度学习
kft131421 小时前
04 — AI 测试用例生成与评审实战
人工智能·测试用例
无心水21 小时前
【Harness:落地实战】24、Harness CI/CD+GitOps深度实战:智能交付与渐进发布——企业级云原生DevOps全解析
人工智能·ci/cd·云原生·openclaw·harness·hermes·honcho
AI学长1 天前
数据集|二维码目标检测QRCodeDetection
人工智能·目标检测·计算机视觉·二维码目标检测
IT_陈寒1 天前
React开发实战:从入门到精通
前端·人工智能·后端
古道青阳1 天前
AI编码智能体横向评测Cursor、OpenAI Codex 与 Claude Code
人工智能
kft13141 天前
测试深度洞察 | 2026年6月:测试工具迭代背后的行业信号
人工智能·测试用例