【PyTorch】基础知识及常用操作

【PyTorch】基础知识及操作

基础知识

tensor的形状(shape)

在数据被加载为tensor时,PyTorch会根据原始的数据内容和形状 来生成tensor。由于tensor的操作依托于PyTorch提供的方法,此时tensor未必符合PyTorch提供方法的输入形状要求,或此tensor经过操作后不是预期结果。

因此,PyTorch在设计方法时大多对tensor进行了一致的形状建模,具体地讲:

  • 1D数据(通常为序列数据)的形状为:( C C C, L i n L_{in} Lin)/(通道数,数据长度)
  • 2D数据(通常为图像数据)的形状为:( C C C, H i n H_{in} Hin, W i n W_{in} Win)/(通道数,数据高度,数据宽度)

在处理tensor时为了提高计算效率,通常会一次性处理一批相同形状的数据。对于这批数据,其形状在单个数据的形状的基础上增加了批次信息,具体来说:

  • 1D数据在批处理时的形状为:( N N N, C C C, L i n L_{in} Lin)/(批处理大小,通道数,数据长度)
  • 2D数据在批处理时的形状为:( N N N, C C C, H i n H_{in} Hin, W i n W_{in} Win)/(批处理大小,通道数,数据高度,数据宽度)

值得注意的是,在使用PyTorch的方法对tensor进行处理时,方法要求的tensor输入形状与上述的通用形状未必一致 ,比如使用PyTorch提供的nn.LSTM模型方法时,1D数据的输入形状被要求为:( L i n L_{in} Lin, N N N, C C C)/(数据长度,批处理大小,通道数)。

因此,使用PyTorch的方法对tensor进行处理时,tensor的具体形状仍需参考方法的描述

常用操作

tensor处理

创建tensor

torch.Tensor() 和 torch.tensor() 是 PyTorch 中两个不同的方法,用于创建张量,但使用方式有一些区别。

torch.Tensor()

创建一个未初始化的张量,默认数据类型为 torch.float32,不能通过dtype 参数指定数据类型。

不初始化数据,即张量的内容是未定义的,可能是内存中的随机值。

用法: 常用于需要创建一个特定大小但未初始化的张量。

torch.tensor()

根据给定的数据创建一个新的张量,可以通过 dtype 参数指定数据类型。

用法: 用于从数据(例如列表或数组)创建张量。[1](#1)

拼接tensor

torch.cat 和 torch.stack 是 PyTorch 中用于拼接张量的两个不同的函数,它们的主要区别在于拼接的方式和创建的维度。[2](#2)

获取tensor中元素数目

pytorch中,numel() 函数用于获取张量中元素数目,其中 numel() 可以理解为是 number of elements 的缩写。[3](#3)

神经网络层使用

卷积层

卷积操作可参照[4](#4)

设备信息获取

复制代码
def gpus(self, model):
    if torch.cuda.device_count() > 1:
        print("Let's use", torch.cuda.device_count(), "GPUs!")
        model = nn.DataParallel(model)
    return model

  1. torch.Tensor() 和 torch.tensor()的区别 ↩︎

  2. Pytorch种torch.cat与torch.stack的区别 ↩︎

  3. pytorch中numel()函数用于获取张量中元素数目 ↩︎

  4. pytorch中Conv1d、Conv2d与Conv3d详解 ↩︎

相关推荐
CTA量化套保14 小时前
期货实盘委托成交持仓对不上:天勤排查顺序与字段对照
python
机汇五金_14 小时前
从钣金加工到成品装配,弱电箱是如何制造出来的?
网络·python·制造
小雨下雨的雨14 小时前
家庭药品管理系统智能过期预警鸿蒙PC Electron框架技术深度解析
前端·javascript·人工智能·华为·electron·鸿蒙·鸿蒙系统
brycegao32114 小时前
Tauri2+Vue3+Ollama 实战|依托 AI 协同开发全离线隐私记账桌面软件(开源)
人工智能·开源·vue·ai编程·tauri·ollama·桌面开发
键盘上的猫头鹰14 小时前
【Linux 基础教程(四)】文件内容查看、打包压缩与搜索、重定向管道及环境变量
linux·服务器·python
独挽离人14 小时前
【无标题】
python
luoganttcc14 小时前
Blackwell 是 FP4/NVFP4 + 第二代 Transformer Engine + 更大 NVLink 域 + 更强机架级推理系统
人工智能·深度学习·transformer
王哈哈^_^14 小时前
【源码教程+数据集】农作物分类检测数据集 10712 张,农作物分类检测系统实战教程
人工智能·算法·yolo·目标检测·计算机视觉·毕业设计·数据集
码农天天14 小时前
卡特加特AI营销一体机核心功能与技术规格说明书
人工智能·规格说明书
网易CodeWave-小码哥14 小时前
AI Coding沙龙杭州站回顾,共探ISV效能利润双增长
数据库·人工智能