【矩阵论】关于rank的几何解释:“观测者维度”

Claude-Opus4.6-Cursor:几何解释

Rank 就是变换后空间的维度。

一个矩阵AAA把输入向量映射到输出空间,rank 告诉你输出空间是几维的:

  • rank=3\text{rank} = 3rank=3:输出充满整个三维空间
  • rank=2\text{rank} = 2rank=2:不管输入是什么,输出都落在一个平面
  • rank=1\text{rank} = 1rank=1:输出都落在一条直线

这就是 3B1B 在"线性变换"那几集里反复展示的:矩阵把空间压扁、拉伸、旋转,rank 就是压完之后还剩几个维度

理解了这个,再回看 LoRA:ΔW\Delta WΔW 的 rank = 64,意思就是微调带来的变化把信号限制在了一个 64 维的"平面"里(在 3584 维空间中)。

几何直觉建立好之后,数学定义只是把这个直觉写成了精确的符号语言,到时候你会觉得"哦,说的就是这个事"。

南溪:就像是"观测者维度"

相关推荐
用户3090463613949 分钟前
Claude 不会直接执行你的函数,它只会生成一段结构化的工具调用请求。真正执行函数、访问数据库、请求外部 API 的动作,必须由你的后端完成。
人工智能
不加辣椒11 分钟前
第14章 Prompt 编排与优化技术
人工智能
Bolt14 分钟前
读懂 Claude Code `/loop` 与编码 Agent 的循环革命
人工智能·程序员·agent
用户2080468045614 分钟前
文本分块策略与最佳实践实战指南
人工智能
用户208046804561 小时前
文档解析实战:PDF、Word 与 HTML 的清洗提取指南
人工智能
得物技术2 小时前
从狂野代码到按目标生产:得物推荐 AI Harness 的工程化实践|AICon 演讲整理
人工智能·算法·架构
HokKeung2 小时前
飞书 lark-cli 如何存储 tenant_access_token 和 user_access_token
人工智能·go
Ralph_Salar2 小时前
从0到1搭建AI智能支付风控助手Stage3-Function Calling — 让AI能动起来
人工智能
Ralph_Salar2 小时前
从0到1搭建AI智能支付风控助手Stage4-Agent编排 — 让AI自己思考、决策、行动
人工智能
smallyoung2 小时前
Spring AI 2.0 VectorStore实战:从原理到RAG落地
人工智能·后端