深度学习基础:线性代数本质6——逆矩阵、列空间与零向量

通过直观的线性变换视角来重新看逆矩阵,列空间,秩,零空间的概念

线性代数在几乎所有领域中都有所体现并被广泛应用的主要原因是:可以帮助我们求解特定的方程组。

1. 矩阵的用途

  • 它能用来描绘对空间的操控,这对计算机图形学学习很重要。
  • 它被广泛应用的主要原因是它能帮助我们求解特定的方程组

2. 利用矩阵求解方程组

矩阵A代表一个线性变换,所以求解意味着去寻找一个向量,使得变换后与重合。

① 当矩阵A行列式不为零

此时空间并未被挤压为零面积,在这种情况下,有且仅有一个向量(变换后)与v重合,并且可以通过逆向变换 找到这个向量,如同倒带一样,记为先线性变换,再做逆变换,核心在于:等于一个"什么都不做"的矩阵。这个"什么都不做"的变换被称为"恒等变换"。
它保持 i 和 j 不变,所以列为(1,0)和(0,1)

一旦找到了 ,就能在两遍同乘A的逆矩阵来求解向量方程
得到x,此时x x是唯一解

② 当矩阵A行列式为零

变换将空间压缩到更低的维度上。此时不存在逆变换:不可以将低纬度空间拉伸到一个特定的高维空间 (类似不可以将一条线"解压缩"为一个平面)

但即便不存在逆变换,解仍可能存在: (二维空间)一个变换将空间压缩到一条直线上

v如果恰好在这个直线上时,有解;如果v不在这个直线上,则无解

3. 秩 rank

秩代表变换后空间的维数

  • 当变换后向量在一条直线上------ 结果为一维的:称这个变换的秩为1
  • 当变换后向量在一个平面上------ 结果为二维的:称这个变换的秩为2

比如说,对于2x2的矩阵那么它的秩最大为2,当秩数小于向量的维数,那么可以说它在变换后被压缩了

如果变换后的向量在一条直线上,那么我们称这个变换为的秩为1,如果变换后的向量在一个平面上,那么我们称这个变换为秩为2

4. 列空间(没太理解)

不管是一条直线,一个平面还是三维空间等,所有可能的变换结果的集合被称为"列空间"。

列空间就是矩阵的列所张成的空间

所以更精确秩的定义就是列空间的维数

当秩达到最大时,意味着秩与列数相等 (也称为满秩

ps:零向量一定包含在列空间中,因为线性变化必须保持原点位置不变,对于一个满秩变换来说,唯一能在变换后落在原点的就是零向量本身。对于非满秩变换,在变换后可能会有一些里点落在原点中。

5. 零空间(没太理解)

变换后的向量 落在零向量上的向量的集合

零向量一定在列空间中(因为线性变换必须保持原点位置不变)

  • 对于满秩(Full rank)变换来说,唯一能在变换后落在原点的就是零向量本身
  • 对于非满秩的变换,空间被压缩到一个更低的维度上,也就是说:会有一系列向量在变换后成为零向量:
    • 如果一个二维线性变换将空间压缩到一条线,那么沿着某个不同方向直线上的所有向量被压缩到原点
    • 如果一个三维线性变换将空间压缩到一个平面,会有一整条线上的向量在变换后落在原点
      如果一个三位线性变换将空间压缩到一条直线,有一整个平面上的向量在变换后落在原点

变换后落在原点的向量集合被称为矩阵的"零空间"(Null space)或"核"(Kernel):变换后一些向量落在了零向量上,而零空间就是这些向量所构成的空间

这个现象可以用来解释为什么系数矩阵满秩的齐次方程只有0解,而不满秩的其次方程有一个基础解系

  • 满秩时:变换后的空间维数不变,则唯一能在变换后落在原点的就是零向量本身,即只有0解
  • 不满秩时:变换后的空间维度减小,会有一系列向量在变换后成为零向量,即有一个基础解析

6. 总结

从几何角度求解线性方程组:从逆矩阵,列空间,零空间

线性方程组:对应一个线性变换

① 如果该变换有逆变换

可以使用这个逆变换进行求解方程组

② 如果逆变换不存在

  • 列空间的概念让我们清楚什么时候存在解

一个变换将空间压缩到一条直线上,v如果恰好在这个直线上时,有解;
如果v不在这个直线上,则无解

③ 零空间概念有助于我们理解所有可能的解的集合是什么样的

相关推荐
陈奕昆18 分钟前
4.2 HarmonyOS NEXT分布式AI应用实践:联邦学习、跨设备协作与个性化推荐实战
人工智能·分布式·harmonyos
AI.NET 极客圈29 分钟前
.NET 原生驾驭 AI 新基建实战系列(六):Pinecone ── 托管向量数据库的向量数据库的云原生先锋
数据库·人工智能·.net
YBCarry_段松啓31 分钟前
uv:下一代 Python 包管理器
人工智能·python
聚客AI31 分钟前
深度解构神经网络的底层引擎:从感知机到反向传播的数学之旅
人工智能·神经网络·掘金·日新计划
yorushika_34 分钟前
python打卡训练营打卡记录day45
开发语言·python·深度学习·tensorboard
张较瘦_36 分钟前
[论文阅读] 人工智能+软件工程 | 用大模型优化软件性能
论文阅读·人工智能·软件工程
机器之心40 分钟前
深夜突袭!谷歌Gemini 2.5 Pro更新蝉联榜一:推理超越o3,编程超越opus4
人工智能·gemini
fc&&fl41 分钟前
大模型面试题总结
人工智能·python
极昆仑智慧1 小时前
极昆仑智慧与数元灵科技达成战略合作
人工智能·语言模型·自然语言处理
bj32811 小时前
机器学习实验八--基于pca的人脸识别
人工智能·机器学习·计算机视觉