【动手学深度学习】06 矩阵计算(个人向笔记)

标量导数

这个比较简单,就是直接求导

亚导数

举了两个例子

梯度

  • 下面是当 y 和 x 分别为向量和标量时求导的结果。一个为向量,一个为标量则结果为向量。两个都为向量结果为矩阵,两个都为标量结果为标量
  • 当 y 为标量,x 为列向量时 ,结果为一个行向量,其计算结果相当于求偏导,具体看例子(吐槽一下沐神课上时真没听懂,不过一问gpt就懂了)


  • 当 y 为向量,x 为标量时, 那么对于每一个 y 中的元素都对 x 求导即可,结果是一个列向量
    - 当 x 和 y 都为向量时 ,那么我们把 y 中的每一个元素看作一个标量,然后对每一个 y 中的元素执行对向量 x 求导数,然后把结果的行向量都排在一起构成了矩阵
  • 维度更多的情况,最终的维度其实就是把两者的维度加起来
相关推荐
星月夜语2 分钟前
2026 TPAMI | StarIR:空间-频域融合的高效图像复原
图像处理·深度学习·计算机视觉
风吹心凉7 分钟前
错误码矩阵 · 实机兼容映射 · 契约变更规则
线性代数·矩阵
inquisiter25 分钟前
从反向传播看 QKV:注意力只是计算图里的几个节点
深度学习
搭贝1 小时前
国资报送责任制怎么建?三级责任矩阵设计
android·数据库·人工智能·线性代数·低代码·矩阵·制造
磁场转动100万匹1 小时前
深度学习入门:从神经网络到反向传播的完整解析
人工智能·深度学习·神经网络
啥都想学点的研究生1 小时前
一篇文章讲清楚:超参数的选择方法——交叉验证和网格搜索
人工智能·深度学习·机器学习
点PY2 小时前
《一种基于深度学习的超分辨率重建方法及系统》专利精读
人工智能·深度学习·超分辨率重建
疯狂打码的少年2 小时前
【数据库技术】两级映像与数据独立性(逻辑/物理独立性)
数据库·笔记
翻身的咸鱼ing2 小时前
ArkTS 学习笔记
笔记·学习
程序猿炎义2 小时前
【llm-algo-leetcode学习笔记】训练侧显存优化
人工智能·笔记·学习