使用torch普通算子组合替代torch.einsum爱因斯坦求和

1. torch.einsum('bnd, bmd->bnm', x, y)

torch.einsum('bnd, bmd->bnm', x, y) 表示的是对张量 x 和 y 进行特定的求和和维度变换。

具体来说,这个操作的输入是两个形状为 [b, n, d] 和 [b, m, d] 的张量 x 和 y,输出是一个形状为 [b, n, m] 的张量 z。其计算过程可以理解为:对于每个 b,z[b, n, m] 等于 x[b, n, :] 和 y[b, m, :] 之间的点积。

为了用普通的 torch 操作符来替代 einsum,我们可以通过 torch.matmul 函数实现。这个函数可以用来执行批量矩阵乘法,并且能够很好地替代这个 einsum 操作。

具体实现如下:

python 复制代码
import torch

# 假设 x 和 y 的形状分别为 (b, n, d) 和 (b, m, d)
x = torch.randn(10, 20, 30)  # 举例
y = torch.randn(10, 15, 30)  # 举例

# einsum: z = torch.einsum('bnd, bmd->bnm', x, y)
# 可以转换为以下操作:
z = torch.matmul(x, y.transpose(-1, -2))  # z 的形状为 (b, n, m)

# 检查 z 的形状是否正确
print(z.shape)

2. torch.einsum('ij,jk->ik', A, B)

可以用普通的矩阵乘法 torch.matmul 替代

具体实现如下:

python 复制代码
import torch

A = torch.rand(3, 4)
B = torch.rand(4, 5)

# 使用 einsum
result_einsum = torch.einsum('ij,jk->ik', A, B)

# 使用 matmul
result_matmul = torch.matmul(A, B)

# 验证结果相同
print(torch.allclose(result_einsum, result_matmul))

3. torch.einsum('bij,bjk->bik', A, B)

可以用 torch.bmm 来替代

具体实现如下:

python 复制代码
import torch

A = torch.rand(10, 3, 4)
B = torch.rand(10, 4, 5)

# 使用 einsum
result_einsum = torch.einsum('bij,bjk->bik', A, B)

# 使用 bmm
result_bmm = torch.bmm(A, B)

# 验证结果相同
print(torch.allclose(result_einsum, result_bmm))

4. torch.einsum('i,i->', A, B)

向量内积,可以用 torch.dot 来替代

具体实现如下:

python 复制代码
import torch

A = torch.rand(4)
B = torch.rand(4)

# 使用 einsum
result_einsum = torch.einsum('i,i->', A, B)

# 使用 dot
result_dot = torch.dot(A, B)

# 验证结果相同
print(torch.allclose(result_einsum, result_dot))

5. torch.einsum('i,j->ij', A, B)

向量外积,可以用 torch.outer 来替代

具体实现如下:

python 复制代码
import torch

A = torch.rand(4)
B = torch.rand(5)

# 使用 einsum
result_einsum = torch.einsum('i,j->ij', A, B)

# 使用 outer
result_outer = torch.outer(A, B)

# 验证结果相同
print(torch.allclose(result_einsum, result_outer))

不同的 einsum 表达式会对应不同的替代操作,有时可能需要组合多个普通操作来达到相同的效果。如果某些 einsum 表达式太复杂,使用普通算子替代时会比较繁琐,此时建议继续使用 einsum,因为它不仅更简洁,而且通常性能优化得很好。
后续遇到其余需替换的 op 再进行更新

相关推荐
南宫理的日知录10 分钟前
99、Python并发编程:多线程的问题、临界资源以及同步机制
开发语言·python·学习·编程学习
coberup19 分钟前
django Forbidden (403)错误解决方法
python·django·403错误
wangyue428 分钟前
c# 深度模型入门
深度学习
川石课堂软件测试42 分钟前
性能测试|docker容器下搭建JMeter+Grafana+Influxdb监控可视化平台
运维·javascript·深度学习·jmeter·docker·容器·grafana
985小水博一枚呀1 小时前
【深度学习滑坡制图|论文解读3】基于融合CNN-Transformer网络和深度迁移学习的遥感影像滑坡制图方法
人工智能·深度学习·神经网络·cnn·transformer
龙哥说跨境1 小时前
如何利用指纹浏览器爬虫绕过Cloudflare的防护?
服务器·网络·python·网络爬虫
985小水博一枚呀1 小时前
【深度学习滑坡制图|论文解读2】基于融合CNN-Transformer网络和深度迁移学习的遥感影像滑坡制图方法
人工智能·深度学习·神经网络·cnn·transformer·迁移学习
小白学大数据1 小时前
正则表达式在Kotlin中的应用:提取图片链接
开发语言·python·selenium·正则表达式·kotlin
flashman9111 小时前
python在word中插入图片
python·microsoft·自动化·word
菜鸟的人工智能之路1 小时前
桑基图在医学数据分析中的更复杂应用示例
python·数据分析·健康医疗