【动手学深度学习】06 矩阵计算(个人向笔记)

标量导数

这个比较简单,就是直接求导

亚导数

举了两个例子

梯度

  • 下面是当 y 和 x 分别为向量和标量时求导的结果。一个为向量,一个为标量则结果为向量。两个都为向量结果为矩阵,两个都为标量结果为标量
  • 当 y 为标量,x 为列向量时 ,结果为一个行向量,其计算结果相当于求偏导,具体看例子(吐槽一下沐神课上时真没听懂,不过一问gpt就懂了)


  • 当 y 为向量,x 为标量时, 那么对于每一个 y 中的元素都对 x 求导即可,结果是一个列向量
    - 当 x 和 y 都为向量时 ,那么我们把 y 中的每一个元素看作一个标量,然后对每一个 y 中的元素执行对向量 x 求导数,然后把结果的行向量都排在一起构成了矩阵
  • 维度更多的情况,最终的维度其实就是把两者的维度加起来
相关推荐
隔壁大炮2 小时前
03.深度学习——特点
人工智能·深度学习
Hcoco_me3 小时前
车载摄像头核心知识点结构化总结
人工智能·深度学习·数码相机·算法·机器学习·自动驾驶
沪漂阿龙3 小时前
LLM底层机制深度解析:从Transformer到推理优化的完整技术地图
人工智能·深度学习·transformer
袁气满满~_~4 小时前
深度学习笔记五
人工智能·深度学习
光的方向_4 小时前
02-Transformer核心架构详解-自注意力与多头注意力
人工智能·深度学习·transformer
万里鹏程转瞬至4 小时前
论文简读 | TurboDiffusion: Accelerating Video Diffusion Models by 100–200 Times
论文阅读·深度学习·aigc
Yeh2020584 小时前
2月21日笔记
笔记
智者知已应修善业4 小时前
【冰雹猜想过程逆序输出】2025-4-19
c语言·c++·经验分享·笔记·算法
万里鹏程转瞬至5 小时前
SLA与Flash_attn对比测试
深度学习·aigc
白云偷星子5 小时前
RHCSA笔记7
linux·笔记