什么是张量

张量的基础概念

学习使用pytorc库进行深度学习网络搭建时,张量这个词总是不定时会出现。其实,Pytorch中的所有操作都是在张量的基础上进行的,今天就来了解张量到底是什么

由PyTorch官网官网介绍可知,一个Tensor是一个包含单一数据类型的多维矩阵。

通常,其多维特性用三维及以上的矩阵来描述,例如下图所示:单个元素为标量(scalar),一个序列为向量(vector),多个序列组成的平面为矩阵(matrix),多个平面组成的立方体为张(tensor)。PS:张量也无需严格限制在三维及以上才叫张量,也有一维张量、二维张量

直白话:其实就把张量理解成数组就行,只不过里面的数据类型比较特殊,因此,几维张量外面就相当于最外层数组包含几层

为什么深度学习要使用Tensor

监督机器学习模型的输入X通常是多个特征列组成的二维矩阵,输出y是单个特征列组成的标签向量或多个特征列组成的二维矩阵。那么深度学习中,为何要定义多维矩阵Tensor呢?

深度学习当前最成熟的两大应用方向莫过于CV和NLP,其中CV面向图像和视频,NLP面向语音和文本,二者分别以卷积神经网络和循环神经网络作为核心基础模块,且标准输入数据集都是至少三维以上。其中,

  • 图像数据集:至少包含三个维度(样本数Nx图像高度Hx图像宽度W);如果是彩色图像,则还需增加一个通道C,包含四个维度(NxHxWxC);如果是视频帧,可能还需要增加一个维度T,表示将视频划分为T个等时长的片段。

  • 文本数据集:包含三个维度(样本数N×序列长度L×特征数H)。

因此,输入学习模型的输入数据结构通常都要三维以上,这也就促使了Tensor的诞生。

Tensor数据类型

下面这种图展示了大部分张量数据类型

张量的每种数据类型都有对应CPU和GPU版本,因此进行张量处理的时候需要指定一个设备,它要么是CPU要么是GPU,因此我们可以用torch.device来创建一个设备,并指定索引,例如:

复制代码
device=torch.device('cuda:0')

输出结果为:device(type='cuda',index=0),可看到类型为'cuda',即GPU,索引0表示为第一个GPU。

Tensor形状

张量具有如下形状属性:

  • Tensor.ndim:张量的维度,例如向量的维度为1,矩阵的维度为2。

  • Tensor.shape: 张量每个维度上元素的数量。

  • Tensor.shapen:张量第n维的大小。第n维也称为轴(axis)。

  • Tensor.numel:张量中全部元素的个数。

创建一个四位张量Tensor

复制代码
Tensor=torch.ones([2,3,4,5])

它的属性axis、shape、dimension、ndim之间关系如下图所示。

Tensor创建

Pytorch可基于给定数据手动创建Tensor,并提供了多种方式

  • torch.tensor()

import numpy as np

import torch

arr = np.ones((3, 3))

'''

\[1. 1. 1.

1. 1. 1.

1. 1. 1.\]

'''

print(arr)

ndarray的数据类型: float64

print("ndarray的数据类型:", arr.dtype)

t= torch.tensor(arr)

'''

tensor(\[1., 1., 1.,

1., 1., 1.,

1., 1., 1.], dtype=torch.float64)

'''

print(t)

  • 从numpy创建Tensor ->torch.from_numpy(ndarray)

import numpy as np

import torch

创建一个numpy数组

numpy_array = np.array(\[1, 2, 3, 4, 5, 6])

从numpy数组创建一个Tensor,并保持数据共享(更改Tensor内容会同时改变numpy数组)

tensor_from_numpy = torch.from_numpy(numpy_array)

print(tensor_from_numpy)

输出:

tensor(\[1, 2, 3,

4, 5, 6], dtype=torch.int32)

修改tensor,array也会被修改

print("# -----------修改tensor--------------*")

t0, 0 = -1

print("numpy array: ", arr)

输出:

numpy array: \[-1 2 3

4 5 6]

print("tensor : ", t)

输出:

tensor(\[-1, 2, 3,

4, 5, 6], dtype=torch.int32)

  • 根据数值创建张量

**1.**torch.zeros():根据size创建全0张量

复制代码
torch.zeros(*size, out=None, dtype=None, layout=torch.strided, device=None, requires_grad=False)
  1. torch.zeros_like:根据input形状创建全0张量

    torch.zeros_like(input, dtype=None, layout=None, device=None, requires_grad=False, memory_format=torch.preserve_format)

此外 还有一些如下:

  1. torch.full() & torch.full_like():创建自定义某一数值的张量。

  2. torch.linspace():创建均分的一维张量

5.torch.logspace():创建对数均分的一维张量

6.torch.arrange():创建等差的一维张量

  1. torch.eye():创建单位对角矩阵
  • 根据概率创建张量

1.torch.normal():生成正态分布(高斯分布)

复制代码
torch.normal(mean, std, *, generator=None, out=None)
相关推荐
在所不辞兄1 小时前
【人工智能驱动的电催化研究-07】CSV文件、路径与可追溯记录
人工智能·深度学习·神经网络·机器学习·有限元·电化学·电催化
承渊政道2 小时前
【Python编程—从入门到实践】(用户账户:给Django网站装上登录系统,让每个人拥有自己的学习笔记)
python·学习·pycharm·django
承渊政道3 小时前
【Python编程—从入门到实践】(设置样式并部署:给Django网站换新装,把学习笔记发布到互联网)
python·学习·pycharm·django
用户298698530143 小时前
使用 Python 将 JSON 转换为 Word 文档的实践指南
python·json·api
jay神4 小时前
基于 YOLOv8 的传送带异物检测系统(Web 版)
前端·人工智能·深度学习·yolo·计算机视觉·计算机毕业设计
卷无止境4 小时前
AI 加速开发之后,如何应对尚未发现的代码安全威胁
后端·python
cpolar技术支持4 小时前
容器数是 6 个、6 个、还是 6 个,可服务早被换掉了:用一个 5.5MB 的 Go 单文件把机器每周的变化记下来,再给它套一层别人看不懂的入口
python·docker·ai·cpolar
ONEYAC唯样4 小时前
YXC扬兴科技小型化有源晶振OT4JI-111-24M,提升红外热成像稳定性
人工智能·python·pygame
威哥爱编程5 小时前
模拟面试智能体开发实战 09:把面试官装进手机,鸿蒙端聊天界面用 SSE 流式输出让回复逐字滚出来
python·agent·harmonyos
威哥爱编程5 小时前
模拟面试智能体开发实战 10:配置写死在代码里还怎么换服务端,把设置和简历做成界面可配、可存
python·agent·harmonyos