【动手学深度学习】06 矩阵计算(个人向笔记)

标量导数

这个比较简单,就是直接求导

亚导数

举了两个例子

梯度

  • 下面是当 y 和 x 分别为向量和标量时求导的结果。一个为向量,一个为标量则结果为向量。两个都为向量结果为矩阵,两个都为标量结果为标量
  • 当 y 为标量,x 为列向量时 ,结果为一个行向量,其计算结果相当于求偏导,具体看例子(吐槽一下沐神课上时真没听懂,不过一问gpt就懂了)


  • 当 y 为向量,x 为标量时, 那么对于每一个 y 中的元素都对 x 求导即可,结果是一个列向量
    - 当 x 和 y 都为向量时 ,那么我们把 y 中的每一个元素看作一个标量,然后对每一个 y 中的元素执行对向量 x 求导数,然后把结果的行向量都排在一起构成了矩阵
  • 维度更多的情况,最终的维度其实就是把两者的维度加起来
相关推荐
draracle2 小时前
AI正在批量制造屎山:Vibe Coding的认识论批判
人工智能·深度学习
倔强的石头1062 小时前
【Transformer】上下文长度扩展技术综述
人工智能·深度学习·transformer
Rocky Ding*2 小时前
MaskGIT技术深度解析:图像生成如何从逐Token排队走向掩码并行预测
论文阅读·人工智能·深度学习·机器学习·aigc·ai-native·maskgit
Rocky Ding*4 小时前
Muse技术深度解析:用掩码并行生成图像,速度、语义与编辑能力如何同时成立
论文阅读·人工智能·深度学习·机器学习·aigc·ai-native·muse
论文复现现场10 小时前
AutoDL、算家云与公有云 GPU 怎么选?环境复现、计费与断点恢复对比
pytorch·深度学习·云计算·gpu
楚来客12 小时前
AI基础概念之十四:时空Transformer架构
人工智能·深度学习·transformer
zhangrelay12 小时前
机械臂末端规划智能模型的误区演示
linux·笔记·学习·ubuntu·ros2
patton_smile14 小时前
配电网电压预测 GNN 模型优化
深度学习·配电网·图神经网络·电压预测
SHARK_pssm14 小时前
【C++——类和对象(下)】
开发语言·c++·经验分享·笔记
Ivanqhz14 小时前
层归一化、残差、前馈网络与激活函数简述
服务器·数据库·人工智能·深度学习·算法