【PyTorch】基础知识及常用操作

【PyTorch】基础知识及操作

基础知识

tensor的形状(shape)

在数据被加载为tensor时,PyTorch会根据原始的数据内容和形状 来生成tensor。由于tensor的操作依托于PyTorch提供的方法,此时tensor未必符合PyTorch提供方法的输入形状要求,或此tensor经过操作后不是预期结果。

因此,PyTorch在设计方法时大多对tensor进行了一致的形状建模,具体地讲:

  • 1D数据(通常为序列数据)的形状为:( C C C, L i n L_{in} Lin)/(通道数,数据长度)
  • 2D数据(通常为图像数据)的形状为:( C C C, H i n H_{in} Hin, W i n W_{in} Win)/(通道数,数据高度,数据宽度)

在处理tensor时为了提高计算效率,通常会一次性处理一批相同形状的数据。对于这批数据,其形状在单个数据的形状的基础上增加了批次信息,具体来说:

  • 1D数据在批处理时的形状为:( N N N, C C C, L i n L_{in} Lin)/(批处理大小,通道数,数据长度)
  • 2D数据在批处理时的形状为:( N N N, C C C, H i n H_{in} Hin, W i n W_{in} Win)/(批处理大小,通道数,数据高度,数据宽度)

值得注意的是,在使用PyTorch的方法对tensor进行处理时,方法要求的tensor输入形状与上述的通用形状未必一致 ,比如使用PyTorch提供的nn.LSTM模型方法时,1D数据的输入形状被要求为:( L i n L_{in} Lin, N N N, C C C)/(数据长度,批处理大小,通道数)。

因此,使用PyTorch的方法对tensor进行处理时,tensor的具体形状仍需参考方法的描述

常用操作

tensor处理

创建tensor

torch.Tensor() 和 torch.tensor() 是 PyTorch 中两个不同的方法,用于创建张量,但使用方式有一些区别。

torch.Tensor()

创建一个未初始化的张量,默认数据类型为 torch.float32,不能通过dtype 参数指定数据类型。

不初始化数据,即张量的内容是未定义的,可能是内存中的随机值。

用法: 常用于需要创建一个特定大小但未初始化的张量。

torch.tensor()

根据给定的数据创建一个新的张量,可以通过 dtype 参数指定数据类型。

用法: 用于从数据(例如列表或数组)创建张量。[1](#1)

拼接tensor

torch.cat 和 torch.stack 是 PyTorch 中用于拼接张量的两个不同的函数,它们的主要区别在于拼接的方式和创建的维度。[2](#2)

获取tensor中元素数目

pytorch中,numel() 函数用于获取张量中元素数目,其中 numel() 可以理解为是 number of elements 的缩写。[3](#3)

神经网络层使用

卷积层

卷积操作可参照[4](#4)

设备信息获取

复制代码
def gpus(self, model):
    if torch.cuda.device_count() > 1:
        print("Let's use", torch.cuda.device_count(), "GPUs!")
        model = nn.DataParallel(model)
    return model

  1. torch.Tensor() 和 torch.tensor()的区别 ↩︎

  2. Pytorch种torch.cat与torch.stack的区别 ↩︎

  3. pytorch中numel()函数用于获取张量中元素数目 ↩︎

  4. pytorch中Conv1d、Conv2d与Conv3d详解 ↩︎

相关推荐
说私域2 分钟前
基于开源AI大模型、AI智能名片与S2B2C商城小程序源码的用户价值引导与核心用户沉淀策略研究
人工智能·开源
亲持红叶3 分钟前
GLU 变种:ReGLU 、 GEGLU 、 SwiGLU
人工智能·深度学习·神经网络·激活函数
说私域3 分钟前
线上协同办公时代:以开源AI大模型等工具培养网感,拥抱职业变革
人工智能·开源
群联云防护小杜5 分钟前
深度隐匿源IP:高防+群联AI云防护防绕过实战
运维·服务器·前端·网络·人工智能·网络协议·tcp/ip
惜.己8 分钟前
使用python读取json数据,简单的处理成元组数组
开发语言·python·测试工具·json
摘星编程10 分钟前
构建智能客服Agent:从需求分析到生产部署
人工智能·需求分析·智能客服·agent开发·生产部署
不爱学习的YY酱13 分钟前
信息检索革命:Perplexica+cpolar打造你的专属智能搜索中枢
人工智能
whaosoft-1431 小时前
51c自动驾驶~合集7
人工智能
都叫我大帅哥1 小时前
Python的Optional:让你的代码优雅处理“空值”危机
python
曾几何时`3 小时前
基于python和neo4j构建知识图谱医药问答系统
python·知识图谱·neo4j