【矩阵论】关于rank的几何解释:“观测者维度”

Claude-Opus4.6-Cursor:几何解释

Rank 就是变换后空间的维度。

一个矩阵AAA把输入向量映射到输出空间,rank 告诉你输出空间是几维的:

  • rank=3\text{rank} = 3rank=3:输出充满整个三维空间
  • rank=2\text{rank} = 2rank=2:不管输入是什么,输出都落在一个平面上
  • rank=1\text{rank} = 1rank=1:输出都落在一条直线上

这就是 3B1B 在"线性变换"那几集里反复展示的:矩阵把空间压扁、拉伸、旋转,rank 就是压完之后还剩几个维度。

理解了这个,再回看 LoRA:ΔW\Delta WΔW 的 rank = 64,意思就是微调带来的变化把信号限制在了一个 64 维的"平面"里(在 3584 维空间中)。

几何直觉建立好之后,数学定义只是把这个直觉写成了精确的符号语言,到时候你会觉得"哦,说的就是这个事"。

南溪:就像是"观测者维度"

相关推荐
晨间晓17 分钟前
图片细节丰富不丰富?用华为云码道开发 OpenCV 纹理复杂度分析工具
人工智能·opencv·华为云
2603_9651481131 分钟前
电商选品调研:通过关键词搜索API获取市场热销商品,结合商品详情API分析竞品卖点与定价
开发语言·数据库·人工智能·python·信息可视化
镜象科技37 分钟前
什么是好的校园AI心理健康解决方案服务商?从中外校园心理服务的一天说起
人工智能
Geeys1 小时前
拼多多单品推广完整方案(可直接落地)
大数据·人工智能
泡椒鸡脚1 小时前
AI室内设计风格融合:把布局、材质和光影参考分开写
人工智能·材质
袁俪1 小时前
世界模型与智能体
人工智能
冬奇Lab1 小时前
开源项目第239期:Awesome DSH Plugin —— 5000+ 插件的 DeepSeek Harness 生态精选列表
人工智能·开源
生态学者1 小时前
Global Change Biology | 森林越“步调一致”,反而越怕干旱?树木生长与叶片活动的同步之谜
大数据·人工智能·算法·r语言·微信公众平台
迁移科技1 小时前
一框棒料的自动化跃迁:3D视觉如何点亮金属上下料工序
人工智能·自动化·视觉检测
China_Yanhy1 小时前
AI Agent 实习生工作日记 — Day 4(技术补充:agent_engine.py 底层实现)
人工智能