深度学习基础:线性代数本质6——逆矩阵、列空间与零向量

通过直观的线性变换视角来重新看逆矩阵,列空间,秩,零空间的概念

线性代数在几乎所有领域中都有所体现并被广泛应用的主要原因是:可以帮助我们求解特定的方程组。

1. 矩阵的用途

  • 它能用来描绘对空间的操控,这对计算机图形学学习很重要。
  • 它被广泛应用的主要原因是它能帮助我们求解特定的方程组

2. 利用矩阵求解方程组

矩阵A代表一个线性变换,所以求解意味着去寻找一个向量,使得变换后与重合。

① 当矩阵A行列式不为零

此时空间并未被挤压为零面积,在这种情况下,有且仅有一个向量(变换后)与v重合,并且可以通过逆向变换 找到这个向量,如同倒带一样,记为先线性变换,再做逆变换,核心在于:等于一个"什么都不做"的矩阵。这个"什么都不做"的变换被称为"恒等变换"。
它保持 i 和 j 不变,所以列为(1,0)和(0,1)

一旦找到了 ,就能在两遍同乘A的逆矩阵来求解向量方程
得到x,此时x x是唯一解

② 当矩阵A行列式为零

变换将空间压缩到更低的维度上。此时不存在逆变换:不可以将低纬度空间拉伸到一个特定的高维空间 (类似不可以将一条线"解压缩"为一个平面)

但即便不存在逆变换,解仍可能存在: (二维空间)一个变换将空间压缩到一条直线上

v如果恰好在这个直线上时,有解;如果v不在这个直线上,则无解

3. 秩 rank

秩代表变换后空间的维数

  • 当变换后向量在一条直线上------ 结果为一维的:称这个变换的秩为1
  • 当变换后向量在一个平面上------ 结果为二维的:称这个变换的秩为2

比如说,对于2x2的矩阵那么它的秩最大为2,当秩数小于向量的维数,那么可以说它在变换后被压缩了

如果变换后的向量在一条直线上,那么我们称这个变换为的秩为1,如果变换后的向量在一个平面上,那么我们称这个变换为秩为2

4. 列空间(没太理解)

不管是一条直线,一个平面还是三维空间等,所有可能的变换结果的集合被称为"列空间"。

列空间就是矩阵的列所张成的空间

所以更精确秩的定义就是列空间的维数

当秩达到最大时,意味着秩与列数相等 (也称为满秩

ps:零向量一定包含在列空间中,因为线性变化必须保持原点位置不变,对于一个满秩变换来说,唯一能在变换后落在原点的就是零向量本身。对于非满秩变换,在变换后可能会有一些里点落在原点中。

5. 零空间(没太理解)

变换后的向量 落在零向量上的向量的集合

零向量一定在列空间中(因为线性变换必须保持原点位置不变)

  • 对于满秩(Full rank)变换来说,唯一能在变换后落在原点的就是零向量本身
  • 对于非满秩的变换,空间被压缩到一个更低的维度上,也就是说:会有一系列向量在变换后成为零向量:
    • 如果一个二维线性变换将空间压缩到一条线,那么沿着某个不同方向直线上的所有向量被压缩到原点
    • 如果一个三维线性变换将空间压缩到一个平面,会有一整条线上的向量在变换后落在原点
      如果一个三位线性变换将空间压缩到一条直线,有一整个平面上的向量在变换后落在原点

变换后落在原点的向量集合被称为矩阵的"零空间"(Null space)或"核"(Kernel):变换后一些向量落在了零向量上,而零空间就是这些向量所构成的空间

这个现象可以用来解释为什么系数矩阵满秩的齐次方程只有0解,而不满秩的其次方程有一个基础解系

  • 满秩时:变换后的空间维数不变,则唯一能在变换后落在原点的就是零向量本身,即只有0解
  • 不满秩时:变换后的空间维度减小,会有一系列向量在变换后成为零向量,即有一个基础解析

6. 总结

从几何角度求解线性方程组:从逆矩阵,列空间,零空间

线性方程组:对应一个线性变换

① 如果该变换有逆变换

可以使用这个逆变换进行求解方程组

② 如果逆变换不存在

  • 列空间的概念让我们清楚什么时候存在解

一个变换将空间压缩到一条直线上,v如果恰好在这个直线上时,有解;
如果v不在这个直线上,则无解

③ 零空间概念有助于我们理解所有可能的解的集合是什么样的

相关推荐
爱分享的飘哥6 分钟前
第三十七章:文生图的炼金术:Stable Diffusion完整工作流深度解析
人工智能·pytorch·stable diffusion·文生图·ai绘画·代码实战·cfg
宸津-代码粉碎机2 小时前
LLM 模型部署难题的技术突破:从轻量化到分布式推理的全栈解决方案
java·大数据·人工智能·分布式·python
乌恩大侠7 小时前
自动驾驶的未来:多模态传感器钻机
人工智能·机器学习·自动驾驶
光锥智能8 小时前
AI办公的效率革命,金山办公从未被颠覆
人工智能
GetcharZp8 小时前
爆肝整理!带你快速上手LangChain,轻松集成DeepSeek,打造自己的AI应用
人工智能·llm·deepseek
猫头虎9 小时前
新手小白如何快速检测IP 的好坏?
网络·人工智能·网络协议·tcp/ip·开源·github·php
GeeJoe9 小时前
凡人炼丹传之 · 我让 AI 帮我训练了一个 AI
人工智能·机器学习·llm
小和尚同志10 小时前
Dify29. 为你的 Dify API 穿层衣服吧
人工智能·aigc
不会学习的小白O^O10 小时前
神经网络----卷积层(Conv2D)
人工智能·深度学习·神经网络
bastgia10 小时前
Transformer终结者?Google DeepMind新架构实现2倍推理速度和一半内存占用
人工智能·llm