【矩阵论】关于rank的几何解释:“观测者维度”

Claude-Opus4.6-Cursor:几何解释

Rank 就是变换后空间的维度。

一个矩阵AAA把输入向量映射到输出空间,rank 告诉你输出空间是几维的:

  • rank=3\text{rank} = 3rank=3:输出充满整个三维空间
  • rank=2\text{rank} = 2rank=2:不管输入是什么,输出都落在一个平面上
  • rank=1\text{rank} = 1rank=1:输出都落在一条直线上

这就是 3B1B 在"线性变换"那几集里反复展示的:矩阵把空间压扁、拉伸、旋转,rank 就是压完之后还剩几个维度。

理解了这个,再回看 LoRA:ΔW\Delta WΔW 的 rank = 64,意思就是微调带来的变化把信号限制在了一个 64 维的"平面"里(在 3584 维空间中)。

几何直觉建立好之后,数学定义只是把这个直觉写成了精确的符号语言,到时候你会觉得"哦,说的就是这个事"。

南溪:就像是"观测者维度"

相关推荐
后端小肥肠13 分钟前
漫画工坊上线用户破百:公众号漫画从需求到变现全复盘
人工智能·aigc·agent
赛博山人36 分钟前
字节跳动下线扣子企业版,团队已并入豆包
人工智能
isboyjc37 分钟前
Lomo Agent:面向创作型、持续协作 Agent 的架构设计与工程实践
人工智能·架构·agent
小蒋观天下43 分钟前
码率、I帧间隔、智能编码冲突:H.265+导致AI取流解码异常
人工智能
roman_日积跬步-终至千里2 小时前
AI 能让一个人成为团队吗?从数据中台到 OPC,重新理解软件工程能力
大数据·人工智能·软件工程
在所不辞兄2 小时前
为什么神经网络在训练集损失已接近零后继续训练,测试性能仍可能继续提升,而不是单纯地越来越过拟合?
人工智能·深度学习·神经网络·机器学习·智能仿真
AI砖家2 小时前
ChatGPT Images 2.6 正式支持 GIF 生成:一张图片也能动起来,AI 动图创作时代来了!
人工智能·chatgpt
希和20272 小时前
免费AI视频生成工具汇总(国内优先,适合做漫剧、短视频,Obsidian笔记版)
人工智能·笔记·音视频
水如烟3 小时前
孤能子视角:逆溯法(存稿)——从终点参照解往回拆必经关卡
人工智能
用户2991422196803 小时前
GitHub 热榜项目:周榜(2026-11-08)
人工智能·开源·github