【矩阵论】关于rank的几何解释:“观测者维度”

Claude-Opus4.6-Cursor:几何解释

Rank 就是变换后空间的维度。

一个矩阵AAA把输入向量映射到输出空间,rank 告诉你输出空间是几维的:

  • rank=3\text{rank} = 3rank=3:输出充满整个三维空间
  • rank=2\text{rank} = 2rank=2:不管输入是什么,输出都落在一个平面
  • rank=1\text{rank} = 1rank=1:输出都落在一条直线

这就是 3B1B 在"线性变换"那几集里反复展示的:矩阵把空间压扁、拉伸、旋转,rank 就是压完之后还剩几个维度

理解了这个,再回看 LoRA:ΔW\Delta WΔW 的 rank = 64,意思就是微调带来的变化把信号限制在了一个 64 维的"平面"里(在 3584 维空间中)。

几何直觉建立好之后,数学定义只是把这个直觉写成了精确的符号语言,到时候你会觉得"哦,说的就是这个事"。

南溪:就像是"观测者维度"

相关推荐
老兵发新帖2 分钟前
OSD和视频流接口随机出现net::ERR_CONNECTION_RESET问题分析总结
人工智能
海兰6 分钟前
【开源工具】BlueKing Lite —— AI 原生的轻量运维平台(二)
运维·人工智能·开源
自学机械人的小白ing12 分钟前
深度学习系统学习
人工智能·深度学习·学习
HyperAI超神经14 分钟前
128K长上下文+智能体强化训练!LFM2.5-2.6B解锁端侧大模型高效部署;DETR用Transformer斩断NMS与Anchor,重塑目标检测
人工智能·深度学习·目标检测·计算机视觉·数据集·transformer
学习日记52516 分钟前
AI 工程实战:一套可复用的提示词库与质量门禁,如何让 AI 辅助研发「可验证、可沉淀」
人工智能·prompt
雪隐17 分钟前
个人电脑玩AI-16让5060 Ti给你打工——5060Ti 16G 跑 MiniMax-Music-3:从下载到 60s 出歌的全流程
前端·人工智能·后端
watersink21 分钟前
机器学习PCA
人工智能·机器学习
海兰24 分钟前
【agent应用】DeepSeek Harness (dsh)介绍及安装部署(Ubuntu24.04)使用指南
人工智能·agent
逻辑君29 分钟前
科技逆向外语|20260808
人工智能·科技·机器学习
Dawson Zhu31 分钟前
面向AI自动化分析的数据仓库建模实践
人工智能·语言模型·架构·制造