矩阵相乘torch.einsum()

einsum 是 Einstein summation 的缩写,来源于爱因斯坦求和约定(Einstein summation convention)。这是物理学家阿尔伯特·爱因斯坦引入的一种简便记号,用于描述张量运算,特别是涉及多维数组的运算。

示例1:矩阵乘法

矩阵乘法 C=AB

python 复制代码
A = torch.randn(2, 3)
B = torch.randn(3, 4)
C = torch.einsum('ik,kj->ij', A, B)
print(C.size())  # 输出: torch.Size([2, 4])

这里,'ik,kj->ij' 的含义是:

  • A 的形状为 (2, 3),对应 ik,i 和 k 分别表示第一个和第二个维度。
  • B 的形状为 (3, 4),对应 kj,k 和 j 分别表示第一个和第二个维度。
  • ->ij 表示输出张量的模式,结果为 (2, 4)。
示例2:向量点积

向量点积 c=a⋅b

python 复制代码
a = torch.randn(3)
b = torch.randn(3)
c = torch.einsum('i,i->', a, b)
print(c.size())  # 输出: torch.Size([])

这里,'i,i->' 的含义是:

  • a 和 b 都是向量,对应模式 i。
  • -> 后面为空,表示结果是一个标量。
示例3:批量矩阵乘法

批量矩阵乘法

python 复制代码
A = torch.randn(10, 2, 3)
B = torch.randn(10, 3, 4)
C = torch.einsum('bij,bjk->bik', A, B)
print(C.size())  # 输出: torch.Size([10, 2, 4])

这里,'bij,bjk->bik' 的含义是:

  • A 的形状为 (10, 2, 3),对应 bij,b 表示批次维度,i 和 j 分别表示矩阵的行和列。
  • B 的形状为 (10, 3, 4),对应 bjk,b 表示批次维度,j 和 k 分别表示矩阵的行和列。
  • ->bik 表示输出张量的模式,结果为 (10, 2, 4)。

示例4:逐元素相乘(哈达玛积)A.B或A × B

python 复制代码
A = torch.randn(3, 4)
B = torch.randn(3, 4)

C = torch.einsum('ij,ij->ij', A, B)
print(C.size())  # 输出: torch.Size([3, 4])

'ij,ij->ij' 表示:

  • A 和 B 都是形状为 [3, 4] 的矩阵,用 ij 表示。
  • 结果 C 也是形状为 [3, 4] 的矩阵。
  • 没有重复索引,所以不进行求和。
相关推荐
Java后端的Ai之路2 分钟前
07React_Props验证器
人工智能·python·react.js·架构·fastapi
chien0115 分钟前
为什么一串文字能变成一个向量?——从分布假说到语言模型的语义表示
人工智能·语言模型·自然语言处理
程序猿阿森9 分钟前
Warmup 学习率预热详解:为什么训练初期要“先热身再加速”?
深度学习·学习·语言模型
QYR-分析9 分钟前
54.46亿美元赛道上的毫米战争:汽车顶装式天窗如何穿越“全景化”与“标准升级”双重周期
人工智能
阿崽meitoufa13 分钟前
调研:老龄与社区服务中的AGENT
人工智能
Anhty16 分钟前
自媒体剪音频选哪个?3 款音频剪辑工具实测分享
人工智能·功能测试·音视频·媒体
AIGC小尼17 分钟前
本地 AI 漫剧流水线模型缓存与特征向量持久化:IPAdapter 预编码、特征池复用与内存池管理实战
人工智能·spring boot·缓存·预编码算法·comfyui·ai漫剧
kaixin_啊啊19 分钟前
【零基础学AI】第 9 章——安装 Python 和开发工具
人工智能·python
yichengerp21 分钟前
中小电子厂用什么ERP?电子厂ERP管理软件实施要点与易呈方案推荐
大数据·运维·人工智能·云计算·制造
枯木◊靠推文躺平版23 分钟前
Claude Code 替代品有哪些?TRAE vs Claude Code 从价格、门槛到中文开发,一篇看懂怎么选
人工智能