【矩阵论】关于rank的几何解释:“观测者维度”

Claude-Opus4.6-Cursor:几何解释

Rank 就是变换后空间的维度。

一个矩阵AAA把输入向量映射到输出空间,rank 告诉你输出空间是几维的:

  • rank=3\text{rank} = 3rank=3:输出充满整个三维空间
  • rank=2\text{rank} = 2rank=2:不管输入是什么,输出都落在一个平面
  • rank=1\text{rank} = 1rank=1:输出都落在一条直线

这就是 3B1B 在"线性变换"那几集里反复展示的:矩阵把空间压扁、拉伸、旋转,rank 就是压完之后还剩几个维度

理解了这个,再回看 LoRA:ΔW\Delta WΔW 的 rank = 64,意思就是微调带来的变化把信号限制在了一个 64 维的"平面"里(在 3584 维空间中)。

几何直觉建立好之后,数学定义只是把这个直觉写成了精确的符号语言,到时候你会觉得"哦,说的就是这个事"。

南溪:就像是"观测者维度"

相关推荐
纤纡.2 小时前
基于 OpenCV 与 MediaPipe/Dlib 的计算机视觉实战:手势识别、仿射变换与 AI 换脸全解析
人工智能·opencv·计算机视觉
企微增长观察2 小时前
企微管家Claw+SCRM联动方案:AI驱动的私域运营闭环
人工智能·企业微信
G31135422732 小时前
零门槛实现 TRTC 音视频流转推各大直播 CDN
大数据·人工智能·ai·云计算
人工智能AI技术2 小时前
AI编程规范
人工智能
yinghuoAI20262 小时前
视觉生产力的觉醒:萤火AI如何让电商人从“工具”变回“人”
人工智能·新媒体运营·产品运营·个人开发·流量运营·用户运营·内容运营
龙文浩_2 小时前
AI中NLP的自然语言处理中的文本预处理与特征工程
人工智能·pytorch·深度学习·神经网络·自然语言处理
好运的阿财2 小时前
OpenClaw四种角色详解
人工智能·python·程序人生·microsoft·开源·ai编程
Pelb2 小时前
求导 z = x + y
人工智能·深度学习·数学建模
斯坦SteinY2 小时前
Git Worktree + Claude Code同时开发多个功能
人工智能·chatgpt·prompt·aigc·claude·并行开发