深度学习|pytorch基本运算-hadamard积、点积和矩阵乘法

【1】引言

pytorch对张量的基本运算和线性代数课堂的教学有一些区别,至少存在hadamard积、点积和矩阵乘法三种截然不同的计算方法。

【2】hadamard积

hadamard积是元素对位相乘,用"*"连接张量,代码:

python 复制代码
# 导入包
import torch
# 生成多维张量
y=torch.tensor([[1,2,3],
               [1,2,3],
                [1,2,3]])
z=torch.tensor([[1,2,3],
               [3,2,1],
                [0,2,6]])
# hadamard积运算
a=y*z
# 打印
print(a)

代码运行后,按照对位相乘的效果输出:

++图1 hadamard积运算++

【3】点积

点积是元素对位相乘后再求和,用"torch.sum(*)"连接张量,代码:

python 复制代码
# 导入包
import torch
# 生成多维张量
y=torch.tensor([[1,2,3],
               [1,2,3],
                [1,2,3]])
z=torch.tensor([[11,2,3],
               [3,12,1],
                [10,2,16]])
# hadamard积运算
a=y*z
# 打印
print(a)
# 点积运算
b=torch.sum(y*z)
# 打印
print(b)

代码运行后,按照先对位相乘、再求和的效果输出:

++图2 点积运算++

【4】矩阵乘法

矩阵乘法是第一个矩阵的第i行与第二个矩阵第j列相乘的效果,用"torch.mm()"连接矩阵,就是大家所熟悉的线性代数中得矩阵乘法,代码:

python 复制代码
# 导入包
import torch
# 生成多维张量
y=torch.tensor([[11,2,3],
               [1,12,30],
                [10,12,3]])
z=torch.tensor([[11,12,3],
               [3,12,10],
                [10,2,16]])
# hadamard积运算
a=y*z
# 打印
print(a)
# 点积运算
b=torch.sum(y*z)
# 打印
print(b)
# 矩阵乘法
c=torch.mm(y,z)
# 打印
print(c)

代码运行后,按照第一个矩阵的第i行与第二个矩阵第j列相乘的效果输出:

++图3 矩阵乘法运算++

【5】总结

本次学习了pytorch基本运算,包括hadamard积、点积和矩阵乘法:

  • hadamard积是元素对位相乘,用"*"连接张量
  • 点积是元素对位相乘后再求和,用"torch.sum(*)"连接张量
  • 矩阵乘法是第一个矩阵的第i行与第二个矩阵第j列相乘的效果,用"torch.mm()"连接矩阵,就是大家所熟悉的线性代数中得矩阵乘法。
相关推荐
阿杰学AI35 分钟前
AI核心知识77——大语言模型之Joint Training(简洁且通俗易懂版)
人工智能·深度学习·ai·语言模型·rag·联合训练·joint training
yj_sharing1 小时前
PyTorch深度学习实战:从模型构建到训练技巧
人工智能·pytorch·深度学习
jackylzh1 小时前
PyTorch 2.x 中 `torch.load` 的 `FutureWarning` 与 `weights_only=False` 参数分析
人工智能·pytorch·python
LCG米1 小时前
基于PyTorch的Transformer-CNN时序预测实战:从特征工程到服务化部署
pytorch·cnn·transformer
子夜江寒1 小时前
基于PyTorch的语言模型实现详解
pytorch·语言模型
重生之我是Java开发战士2 小时前
【优选算法】前缀和:一二维前缀和,寻找数组的中心下标,除自身以外数组的乘积,和为K的子数组,和可被K整除的子数组,连续数组,矩阵区域和
线性代数·算法·矩阵
传说故事2 小时前
【论文自动阅读】视频生成模型的Inference-time物理对齐 with Latent World Model
人工智能·深度学习·音视频·视频生成
薛定谔的猫19823 小时前
二十、使用PyTorch和Hugging Face Transformers训练中文GPT-2模型的技术实践
人工智能·pytorch·gpt
cyyt3 小时前
深度学习周报(1.26~2.1)
人工智能·深度学习
shangjian0073 小时前
AI-大语言模型LLM-模型微调8-进阶操作
人工智能·深度学习·语言模型