【动手学深度学习】06 矩阵计算(个人向笔记)

标量导数

这个比较简单,就是直接求导

亚导数

举了两个例子

梯度

  • 下面是当 y 和 x 分别为向量和标量时求导的结果。一个为向量,一个为标量则结果为向量。两个都为向量结果为矩阵,两个都为标量结果为标量
  • 当 y 为标量,x 为列向量时 ,结果为一个行向量,其计算结果相当于求偏导,具体看例子(吐槽一下沐神课上时真没听懂,不过一问gpt就懂了)


  • 当 y 为向量,x 为标量时, 那么对于每一个 y 中的元素都对 x 求导即可,结果是一个列向量
    - 当 x 和 y 都为向量时 ,那么我们把 y 中的每一个元素看作一个标量,然后对每一个 y 中的元素执行对向量 x 求导数,然后把结果的行向量都排在一起构成了矩阵
  • 维度更多的情况,最终的维度其实就是把两者的维度加起来
相关推荐
强子感冒了6 分钟前
JavaScript 零基础入门笔记:核心概念与语法详解
开发语言·javascript·笔记
马猴烧酒.12 分钟前
【面试八股|RabbitMQ】RabbitMQ常见面试题详解笔记
笔记·面试·rabbitmq
闻缺陷则喜何志丹42 分钟前
【高等数学】导数与微分
c++·线性代数·算法·矩阵·概率论
智者知已应修善业42 分钟前
【项目配置时间选择自己还是团体】2025-3-31
c语言·c++·经验分享·笔记·算法
24白菜头1 小时前
2026-2-9:LeetCode每日一题(动态规划专项)
数据结构·笔记·学习·算法·leetcode
今天你TLE了吗1 小时前
JVM学习笔记:第三章——运行时数据区(部分)
jvm·笔记·学习
Project_Observer1 小时前
项目管理中如何跟踪工时?
数据库·深度学习·机器学习
CHANG_THE_WORLD1 小时前
深入指针4 - 学习笔记整理
笔记·学习·算法
日更嵌入式的打工仔1 小时前
LAN9253中文注释第八章
笔记·原文翻译
小lo想吃棒棒糖2 小时前
思路启发:基于预测编码的Transformer无反向传播训练:局部收敛性与全局最优性分析:
人工智能·深度学习·transformer