从行或列的角度思考矩阵-向量乘法(matrix-vector multiplication)

从行或列的角度思考矩阵-向量乘法可以帮助理解这个运算的几何意义以及如何在计算中操作。

1. 从行的角度思考

假设我们有一个 m × n m \times n m×n的矩阵 A A A 和一个 n × 1 n \times 1 n×1的列向量 x \mathbf{x} x。矩阵-向量乘法 A x A\mathbf{x} Ax 的结果是一个 m × 1 m \times 1 m×1的列向量。

从行的角度来看,每个结果向量的元素都是矩阵 A A A 中对应行的线性组合。具体地说:

  • 矩阵 A A A 的第 i i i 行向量 a i \mathbf{a}_i ai 与向量 x \mathbf{x} x 进行点积,得到结果向量 y \mathbf{y} y 的第 i i i 个元素 y i y_i yi 。
  • 公式表示为:
    y i = a i ⋅ x = ∑ j = 1 n a i j x j y_i = \mathbf{a}i \cdot \mathbf{x} = \sum{j=1}^{n} a_{ij} x_j yi=ai⋅x=j=1∑naijxj
  • 这意味着矩阵-向量乘法的结果 y \mathbf{y} y 是所有行向量与 x \mathbf{x} x点积后所得的列向量。

2. 从列的角度思考

同样,考虑矩阵 A A A和向量 x \mathbf{x} x的乘法 A x A\mathbf{x} Ax,但是从列的角度来看。

  • 矩阵 A A A可以表示为 n n n 个列向量 a 1 , a 2 , ... , a n \mathbf{a}_1, \mathbf{a}_2, \dots, \mathbf{a}_n a1,a2,...,an的组合。
  • 乘法 A x A\mathbf{x} Ax 实际上是将列向量 a i \mathbf{a}_i ai 乘以标量 x i x_i xi 并求和:
    A x = x 1 a 1 + x 2 a 2 + ⋯ + x n a n A\mathbf{x} = x_1 \mathbf{a}_1 + x_2 \mathbf{a}_2 + \dots + x_n \mathbf{a}_n Ax=x1a1+x2a2+⋯+xnan
  • 这意味着矩阵-向量乘法的结果 y \mathbf{y} y是矩阵 A A A的每个列向量 a i \mathbf{a}_i ai按 x i x_i xi加权后的线性组合。

小结

  • 行视角:每个结果元素是矩阵行向量和列向量的点积。
  • 列视角:结果向量是矩阵列向量的线性组合,其中组合系数由列向量中的对应元素给出。

通过从行和列两个角度去理解矩阵-向量乘法,可以更深入地把握矩阵运算的本质以及其在不同应用场景中的几何意义。

相关推荐
论文复现现场3 小时前
8卡4090能跑70B吗?Llama-2显存预算、QLoRA与通信瓶颈
人工智能·深度学习·分布式训练·llama·显存·qlora·算家云
用户15970637603 小时前
一文读懂淘宝店铺在售商品接口:整店商品批量拉取用于竞品研究
深度学习
布吉岛的石头4 小时前
Java 程序员第 49 阶段11:Java 接 BERT:用 ONNX Runtime 做句向量推理
java·人工智能·python·深度学习·bert·transformer
liron715 小时前
技术的诞生与演化--技术自举及其冷启动
人工智能·深度学习·神经网络·自然语言处理
喜欢打篮球的普通人6 小时前
MiniMind 学习笔记(十八):速通强化学习——从 MDP 到 PPO 的概念与算法地图
笔记·深度学习·学习
`流年づ7 小时前
VGG、AlexNet、GoogLeNet对比
人工智能·深度学习
打工仔折腾 AI7 小时前
FaceFusion本地换脸实战:Windows整合包、模型选择与遮罩调参记录
人工智能·windows·后端·python·深度学习·性能优化·ai agent 实战
数智工坊8 小时前
视觉SLAM第5讲|相机成像模型:针孔投影、畸变修正与深度感知全拆解
人工智能·深度学习·数码相机·机器人
Rocky Ding*8 小时前
VideoChat3 深度解析:视频理解的效率,来自时空压缩与主动感知的共同设计
论文阅读·人工智能·深度学习·机器学习·aigc·ai-native·视频理解
禹凕8 小时前
深度学习之激活函数(Deep Learning about Activation function)
人工智能·深度学习