【pytorch】张量求导

笔者看到了这篇文章,可以很好的解释张量的求导问题:

看到了上面这张图,可以说很好的表示了前向和反向的过程了。

补充几个细节

之前看李沐的d2l,一直不懂为什么矩阵计算时的一些奇奇怪怪的规定,比如为什么一个行向量对另一个行向量作微分的结果是每一行都对第二个向量的每个元素都进行偏微分,然后拼成一个矩阵。按照作者提到的,首先将y中的每个元素都对向量进行微分,然后再拼成一个矩阵。

另外一个就是:为什么两个向量微分之后的形状是两个向量的形状直接拼起来,从文中作者的解释也可以看出,每个元素都对第二个向量作微分,形状和第二个向量相同,而每个结果都会作为第一个向量的元素,因为最后一维往往就是元素,所以效果就相当于两个向量拼起来。

作者没更矩阵部分的内容,好可惜哦。

相关推荐
Q_Q5110082851 分钟前
python+django/flask+vue校园闲置物品交易系统
spring boot·python·django·flask·node.js
子午2 分钟前
【鱼类识别系统】Python+TensorFlow+Django+人工智能+深度学习+卷积神经网络算法+resnet50
人工智能·python·深度学习
Q_Q5110082852 分钟前
python+django/flask+vue基于web的产品管理系统
前端·spring boot·python·django·flask·node.js
Q_Q19632884753 分钟前
python+django/flask+vue的电子产品销售系统
spring boot·python·django·flask·node.js·php
Q_Q5110082854 分钟前
python+django/flask+vue的小型房屋租赁系统
spring boot·python·django·flask·node.js·php
财经三剑客5 分钟前
上汽集团1-11月销售410.8万辆 销量已超去年全年
大数据·人工智能
大数据在线5 分钟前
亚马逊云科技:Agentic AI的“iPhone时刻”正在到来
人工智能·亚马逊云科技·ai agent·kiro·agentic ai
weixin_457760007 分钟前
DIOU (Distance-IoU) 详解
python
Q_Q5110082859 分钟前
python+django/flask+vue基于微服务的车联网位置信息管理系统
spring boot·python·pycharm·django·flask·node.js
CV爱数码12 分钟前
【宝藏数据集】MCOD:多光谱伪装目标检测首个挑战性基准
人工智能·深度学习·目标检测·计算机视觉·目标跟踪·数据集