【PyTorch】基础知识及常用操作

【PyTorch】基础知识及操作

基础知识

tensor的形状(shape)

在数据被加载为tensor时,PyTorch会根据原始的数据内容和形状 来生成tensor。由于tensor的操作依托于PyTorch提供的方法,此时tensor未必符合PyTorch提供方法的输入形状要求,或此tensor经过操作后不是预期结果。

因此,PyTorch在设计方法时大多对tensor进行了一致的形状建模,具体地讲:

  • 1D数据(通常为序列数据)的形状为:( C C C, L i n L_{in} Lin)/(通道数,数据长度)
  • 2D数据(通常为图像数据)的形状为:( C C C, H i n H_{in} Hin, W i n W_{in} Win)/(通道数,数据高度,数据宽度)

在处理tensor时为了提高计算效率,通常会一次性处理一批相同形状的数据。对于这批数据,其形状在单个数据的形状的基础上增加了批次信息,具体来说:

  • 1D数据在批处理时的形状为:( N N N, C C C, L i n L_{in} Lin)/(批处理大小,通道数,数据长度)
  • 2D数据在批处理时的形状为:( N N N, C C C, H i n H_{in} Hin, W i n W_{in} Win)/(批处理大小,通道数,数据高度,数据宽度)

值得注意的是,在使用PyTorch的方法对tensor进行处理时,方法要求的tensor输入形状与上述的通用形状未必一致 ,比如使用PyTorch提供的nn.LSTM模型方法时,1D数据的输入形状被要求为:( L i n L_{in} Lin, N N N, C C C)/(数据长度,批处理大小,通道数)。

因此,使用PyTorch的方法对tensor进行处理时,tensor的具体形状仍需参考方法的描述

常用操作

tensor处理

创建tensor

torch.Tensor() 和 torch.tensor() 是 PyTorch 中两个不同的方法,用于创建张量,但使用方式有一些区别。

torch.Tensor()

创建一个未初始化的张量,默认数据类型为 torch.float32,不能通过dtype 参数指定数据类型。

不初始化数据,即张量的内容是未定义的,可能是内存中的随机值。

用法: 常用于需要创建一个特定大小但未初始化的张量。

torch.tensor()

根据给定的数据创建一个新的张量,可以通过 dtype 参数指定数据类型。

用法: 用于从数据(例如列表或数组)创建张量。[1](#1)

拼接tensor

torch.cat 和 torch.stack 是 PyTorch 中用于拼接张量的两个不同的函数,它们的主要区别在于拼接的方式和创建的维度。[2](#2)

获取tensor中元素数目

pytorch中,numel() 函数用于获取张量中元素数目,其中 numel() 可以理解为是 number of elements 的缩写。[3](#3)

神经网络层使用

卷积层

卷积操作可参照[4](#4)

设备信息获取

复制代码
def gpus(self, model):
    if torch.cuda.device_count() > 1:
        print("Let's use", torch.cuda.device_count(), "GPUs!")
        model = nn.DataParallel(model)
    return model

  1. torch.Tensor() 和 torch.tensor()的区别 ↩︎

  2. Pytorch种torch.cat与torch.stack的区别 ↩︎

  3. pytorch中numel()函数用于获取张量中元素数目 ↩︎

  4. pytorch中Conv1d、Conv2d与Conv3d详解 ↩︎

相关推荐
新智元1 分钟前
Grok 4作战图刷爆全网,80%华人横扫硅谷!清华上交校友领衔,95后站C位
人工智能·openai
小宋0012 分钟前
使用LLaMA-Factory微调Qwen2.5-VL-3B 的目标检测任务-数据集格式转换(voc 转 ShareGPT)
人工智能·目标检测·计算机视觉
小哥谈16 分钟前
论文解析篇 | YOLOv12:以注意力机制为核心的实时目标检测算法
人工智能·深度学习·yolo·目标检测·机器学习·计算机视觉
mit6.82421 分钟前
[Meetily后端框架] AI摘要结构化 | `SummaryResponse`模型 | Pydantic库 | vs marshmallow库
c++·人工智能·后端
screenCui26 分钟前
macOS运行python程序遇libiomp5.dylib库冲突错误解决方案
开发语言·python·macos
阿里云大数据AI技术30 分钟前
Post-Training on PAI (3): 自研高性能强化学习框架PAI-ChatLearn
人工智能·开源·强化学习
二二孚日33 分钟前
自用华为ICT云赛道AI第三章知识点-MindSpore特性、MindSpore开发组件
人工智能·华为
水龙吟啸33 分钟前
从零开始搭建深度学习大厦系列-2.卷积神经网络基础(5-9)
人工智能·pytorch·深度学习·cnn·mxnet
小眼睛羊羊34 分钟前
pyinstaller打包paddleocr
python
java1234_小锋39 分钟前
基于Python的旅游推荐协同过滤算法系统(去哪儿网数据分析及可视化(Django+echarts))
python·数据分析·旅游