深度学习基础:线性代数本质6——逆矩阵、列空间与零向量

通过直观的线性变换视角来重新看逆矩阵,列空间,秩,零空间的概念

线性代数在几乎所有领域中都有所体现并被广泛应用的主要原因是:可以帮助我们求解特定的方程组。

1. 矩阵的用途

  • 它能用来描绘对空间的操控,这对计算机图形学学习很重要。
  • 它被广泛应用的主要原因是它能帮助我们求解特定的方程组

2. 利用矩阵求解方程组

矩阵A代表一个线性变换,所以求解意味着去寻找一个向量,使得变换后与重合。

① 当矩阵A行列式不为零

此时空间并未被挤压为零面积,在这种情况下,有且仅有一个向量(变换后)与v重合,并且可以通过逆向变换 找到这个向量,如同倒带一样,记为先线性变换,再做逆变换,核心在于:等于一个"什么都不做"的矩阵。这个"什么都不做"的变换被称为"恒等变换"。
它保持 i 和 j 不变,所以列为(1,0)和(0,1)

一旦找到了 ,就能在两遍同乘A的逆矩阵来求解向量方程
得到x,此时x x是唯一解

② 当矩阵A行列式为零

变换将空间压缩到更低的维度上。此时不存在逆变换:不可以将低纬度空间拉伸到一个特定的高维空间 (类似不可以将一条线"解压缩"为一个平面)

但即便不存在逆变换,解仍可能存在: (二维空间)一个变换将空间压缩到一条直线上

v如果恰好在这个直线上时,有解;如果v不在这个直线上,则无解

3. 秩 rank

秩代表变换后空间的维数

  • 当变换后向量在一条直线上------ 结果为一维的:称这个变换的秩为1
  • 当变换后向量在一个平面上------ 结果为二维的:称这个变换的秩为2

比如说,对于2x2的矩阵那么它的秩最大为2,当秩数小于向量的维数,那么可以说它在变换后被压缩了

如果变换后的向量在一条直线上,那么我们称这个变换为的秩为1,如果变换后的向量在一个平面上,那么我们称这个变换为秩为2

4. 列空间(没太理解)

不管是一条直线,一个平面还是三维空间等,所有可能的变换结果的集合被称为"列空间"。

列空间就是矩阵的列所张成的空间

所以更精确秩的定义就是列空间的维数

当秩达到最大时,意味着秩与列数相等 (也称为满秩

ps:零向量一定包含在列空间中,因为线性变化必须保持原点位置不变,对于一个满秩变换来说,唯一能在变换后落在原点的就是零向量本身。对于非满秩变换,在变换后可能会有一些里点落在原点中。

5. 零空间(没太理解)

变换后的向量 落在零向量上的向量的集合

零向量一定在列空间中(因为线性变换必须保持原点位置不变)

  • 对于满秩(Full rank)变换来说,唯一能在变换后落在原点的就是零向量本身
  • 对于非满秩的变换,空间被压缩到一个更低的维度上,也就是说:会有一系列向量在变换后成为零向量:
    • 如果一个二维线性变换将空间压缩到一条线,那么沿着某个不同方向直线上的所有向量被压缩到原点
    • 如果一个三维线性变换将空间压缩到一个平面,会有一整条线上的向量在变换后落在原点
      如果一个三位线性变换将空间压缩到一条直线,有一整个平面上的向量在变换后落在原点

变换后落在原点的向量集合被称为矩阵的"零空间"(Null space)或"核"(Kernel):变换后一些向量落在了零向量上,而零空间就是这些向量所构成的空间

这个现象可以用来解释为什么系数矩阵满秩的齐次方程只有0解,而不满秩的其次方程有一个基础解系

  • 满秩时:变换后的空间维数不变,则唯一能在变换后落在原点的就是零向量本身,即只有0解
  • 不满秩时:变换后的空间维度减小,会有一系列向量在变换后成为零向量,即有一个基础解析

6. 总结

从几何角度求解线性方程组:从逆矩阵,列空间,零空间

线性方程组:对应一个线性变换

① 如果该变换有逆变换

可以使用这个逆变换进行求解方程组

② 如果逆变换不存在

  • 列空间的概念让我们清楚什么时候存在解

一个变换将空间压缩到一条直线上,v如果恰好在这个直线上时,有解;
如果v不在这个直线上,则无解

③ 零空间概念有助于我们理解所有可能的解的集合是什么样的

相关推荐
Codebee3 小时前
能力中心 (Agent SkillCenter):开启AI技能管理新时代
人工智能
聆风吟º4 小时前
CANN runtime 全链路拆解:AI 异构计算运行时的任务管理与功能适配技术路径
人工智能·深度学习·神经网络·cann
uesowys4 小时前
Apache Spark算法开发指导-One-vs-Rest classifier
人工智能·算法·spark
AI_56784 小时前
AWS EC2新手入门:6步带你从零启动实例
大数据·数据库·人工智能·机器学习·aws
User_芊芊君子4 小时前
CANN大模型推理加速引擎ascend-transformer-boost深度解析:毫秒级响应的Transformer优化方案
人工智能·深度学习·transformer
智驱力人工智能4 小时前
小区高空抛物AI实时预警方案 筑牢社区头顶安全的实践 高空抛物检测 高空抛物监控安装教程 高空抛物误报率优化方案 高空抛物监控案例分享
人工智能·深度学习·opencv·算法·安全·yolo·边缘计算
qq_160144875 小时前
亲测!2026年零基础学AI的入门干货,新手照做就能上手
人工智能
Howie Zphile5 小时前
全面预算管理难以落地的核心真相:“完美模型幻觉”的认知误区
人工智能·全面预算
人工不智能5775 小时前
拆解 BERT:Output 中的 Hidden States 到底藏了什么秘密?
人工智能·深度学习·bert
盟接之桥5 小时前
盟接之桥说制造:引流品 × 利润品,全球电商平台高效产品组合策略(供讨论)
大数据·linux·服务器·网络·人工智能·制造