矩阵的意义
矩阵既可以理解为一组（列）基向量，也可以理解为线性变换。
某个向量左乘矩阵表示向量在用新的基向量表示对应在原始坐标系下的坐标，也可以视为经过线性变换后的坐标。
原始基向量都是单位矩阵，其他矩阵都是原始基向量经过变换后的基向量。
线性变换（二维为例）：
- 原点不动
- 网格仍为直线（网格线平行等间距）
行列式的意义
二维中，其绝对值表示一个（两个不共线的向量构成）区域经过线性变换后的面积与之前的面积之比，正负可以理解为平面空间是否发生了反转，类似于纸张的翻面。特别地，行列式为 0 0 0，说明任意区域经过矩阵的变换后面积是之前的 0 0 0 倍，即变换后的全部向量均共线，亦将二维平面压缩至一维直线。
三维中，其绝对值表示一个区域经过线性变换后的体积与之前的体积之比，正负可以理解为三个基向量是可以通过左手准则表达还是右手准则表达。特别地，行列式为 0 0 0，说明任意区域经过矩阵的变换后体积是之前的 0 0 0 倍，即变换后的全部向量均共面，亦将三维平面压缩至平面或直线。
逆矩阵的几何意义：
左乘矩阵相当于是对原始向量进行线性变换，而左乘逆矩阵相当于将变换后的向量恢复到原来的状态。
解方程组的意义
A x = v Ax=v Ax=v
当系数矩阵 A A A 为方阵时，可以认为 x x x 经过线性变换 A A A 得到了 v v v，现在 x x x 是未知的，已知经过线性变换 A A A 得到了 v v v，求在原始基向量中向量 x x x 的坐标，这就是解方程组。
如果 A A A 的行列式为 0 0 0，那么说明经过变换后出现了共线或共面的情况，即出现经变换后向量从高维被压缩到低维的情形， v v v 处于低维空间，而 x x x 处于高维空间，显然不能将一个低维向量解压缩为高维向量，可以理解为压缩（变换）导致部分信息丢失，因此无法完美地恢复（求解）原始向量。 当然，也可能足够幸运，向量 v v v 刚好在压缩后的直线或平面上，只不过会对应多个 x x x 。对于三维变换而言，如果行列式为 0 0 0，空间被压缩到一条直线和一个平面找到解 x x x 的难度是不同的，尽管二者对应的行列式都为 0 0 0 。
秩的意义
如果经过矩阵的线性变换，空间被压缩到一维，那么矩阵的秩就是 1 1 1；空间被压缩到二维，那么矩阵的秩就是 2 2 2 。也就是说，秩代表变换后空间（矩阵张成空间）的维数。
对比一下行列式。行列式为 0 0 0 也能说明空间存在压缩，但是不能具体描述出空间被压缩到了几维，而秩不仅可以说明空间被压缩，还能说明压缩的几维。
零空间：某些向量经过矩阵变换后落到原点（零向量），这些向量构成矩阵的零空间。
这也就是为什么，在矩阵不满秩时，齐次线性方程的解有无数，这些解就是零空间中的向量；类似的道理，当矩阵不满秩时，空间维度没有变化，只有原始空间的零向量能保证变换后还是零向量。
非方阵的意义
对于一个 3 × 2 3×2 3×2 矩阵而言，它有两个基向量，每个基向量是三维的，可见，原来空间中的全部向量可以由两个基向量表示，变换后的基向量需要三个坐标信息描述，显然实现了从二维到三维的变换；对于一个 1 × 2 1×2 1×2 矩阵而言，最初有两个基向量，描述二维空间，该矩阵表示的是变换后的基向量坐标，每个基向量都是一维表示的，说明基向量变换为一维坐标了，实现了从二维到一维的变换。
特征向量的意义
在进行矩阵变换后，仍然处于变换之前所张成空间的向量称为特征向量。以二维为例，如果某一条直线上的向量在经过矩阵变换后仍然在这条直线上（仅发生了放缩），那么这条直线上的向量就称为特征向量，且这些变量放缩后的长度与放缩前有固定倍数关系，这个倍数称为特征值。
很显然，经过线性变换，特征向量仅发生数乘，不会发生旋转等变换，更有助于我们理解线性变换。