【动手学深度学习】06 矩阵计算(个人向笔记)

标量导数

这个比较简单,就是直接求导

亚导数

举了两个例子

梯度

  • 下面是当 y 和 x 分别为向量和标量时求导的结果。一个为向量,一个为标量则结果为向量。两个都为向量结果为矩阵,两个都为标量结果为标量
  • 当 y 为标量,x 为列向量时 ,结果为一个行向量,其计算结果相当于求偏导,具体看例子(吐槽一下沐神课上时真没听懂,不过一问gpt就懂了)


  • 当 y 为向量,x 为标量时, 那么对于每一个 y 中的元素都对 x 求导即可,结果是一个列向量
    - 当 x 和 y 都为向量时 ,那么我们把 y 中的每一个元素看作一个标量,然后对每一个 y 中的元素执行对向量 x 求导数,然后把结果的行向量都排在一起构成了矩阵
  • 维度更多的情况,最终的维度其实就是把两者的维度加起来
相关推荐
Hali_Botebie12 小时前
【量化】Post-training quantization for vision transformer.
人工智能·深度学习·transformer
可依软件crf28613 小时前
几个笔记软件的优缺点
笔记
大明者省13 小时前
宝塔无法登录完整排查步骤+经验总结
笔记
郑寿昌13 小时前
SubQ颠覆Transformer:亚二次稀疏注意力革命
人工智能·深度学习·transformer
jay神13 小时前
基于YOLOv8的交通标志识别Web系统
前端·人工智能·深度学习·yolo·机器学习·毕业设计
likerhood14 小时前
Git 提交与推送常见报错处理笔记
笔记·git
名不经传的养虾人14 小时前
OpenAI GPT-Image-2.0 在线生图实测:$0.01/张,一组“南宋工笔画”看透模型差距
人工智能·深度学习·ai作画·nano banana 2·gpt-image-2
小袁说公考15 小时前
2026公考培训机构硬核测评 | 师资、退费、管理三大核心指标横向对比
人工智能·经验分享·笔记
玄米乌龙茶12315 小时前
项目开发学习笔记
笔记·学习
RSTJ_162516 小时前
PYTHON+AI LLM DAY FOURTY-NINE
人工智能·python·深度学习