【AI邪修·破壁行动】神经网络基础—核心数据结构—张量

1. 从标量到张量

问AI:

什么是张量?

AI答:

0维是标量,1维是向量,2维是矩阵,3维及以上就是张量。

在深度学习中,张量不仅是多维数据容器,更重要的是它支持自动微分和GPU加速计算,这是普通多维数组不具备的核心特性。比如PyTorch和TensorFlow中的张量,除了存储数据,还记录了计算图信息,能够反向传播梯度。

个人理解:
从数组的角度看,

  • 数字1就是0维数组
  • 坐标(100,100)就是1维数组
  • NxM 矩阵(011110101)\begin{pmatrix} 0&1&1\\ 1&1&0\\ 1&0&1\\ \end{pmatrix} 011110101 就是2维数组。
  • QxNxM张量就是Q个矩阵的数组,也就是3维数组。

所以从数组的角度看,张量就是多维数组。

从几何的角度看:

  • 数字1是一维坐标轴上的向量;
  • 点(100, 100)是二维空间中的一个向量,由xy坐标轴上的两个分向量合成而来;
  • 矩阵是向量的推广,矩阵的子向量数量可以是多个。矩阵要竖着看,每一列都是一个向量。
    比如1x1矩阵:
    (0)\begin{pmatrix} 0 \end{pmatrix}(0)
    可以表示一个标量。
    3x1矩阵:
    (011)(3)\begin{pmatrix} 0\\ 1\\ 1\\ \end{pmatrix} \tag{3} 011 (3)
    表示一个3维向量。
    3x3矩阵:
    (011110101)\begin{pmatrix} 0&1&1\\ 1&1&0\\ 1&0&1\\ \end{pmatrix} 011110101
    表示3个3维向量。
    4x3矩阵:
    (011110101100)\begin{pmatrix} 0&1&1\\ 1&1&0\\ 1&0&1\\ 1&0&0\\ \end{pmatrix} 011111001010
    表示3个4维向量。
    从几何的角度看,矩阵可以代表由子向量组成的任意维度的空间。这个维度是几何维度,不是数组中的维度概念,不要搞混。比如说一张二维1920x1080的图片,你可以把它看作矩阵,那么它代表的空间是多少维的?上千维的。但是它作为数据,就是个二维数组。这两个维度要区分开,否则很晕。
  • 张量:张量是矩阵的推广。既然矩阵可以表示任意维度的空间,那么从几何角度看,张量就是多元宇宙。3维的张量,就是一阶多元宇宙,4维的张量,就是二阶多元宇宙。以此类推。

需要强调的是,数组中的维度和空间中的维度是不一样的,在神经网络中最好还是从多维数组的角度去理解张量。

2.张量在神经网络中的地位

问AI:

是不是神经网络中几乎都在用张量或者说离不开张量?

AI答:

是的,神经网络几乎完全依赖张量。

张量是深度学习的核心数据结构,几乎所有现代深度学习框架(如PyTorch、TensorFlow、JAX)都围绕张量构建。神经网络的输入数据(如图像、文本序列)、权重参数、中间计算结果、梯度信息等都以张量形式存储和计算。

张量不仅仅是多维数组,更重要的是它们支持自动微分和GPU加速,这是训练神经网络的关键能力。框架通过张量追踪计算图,实现反向传播算法,自动计算梯度用于参数更新。可以说,没有张量,现代深度学习的高效训练和推理就无从谈起。

3.张量的使用

张量是神经网络框架(pytorch, tensorflow)中的核心数据结构,经常用到。所以一般输入的图片都需要转换成张量才能被计算。

问AI:

torch中toTensor()函数作用的什么,为什么要把图片toTensor()?

AI答:

toTensor()就是给图片办一张「神经网络身份证」。

它主要做三件事:

改格式:从图片格式(如jpg、png)变成神经网络能看懂的数字格式(张量)。

缩数值:把像素亮度从0-255的整数,变成0-1之间的小数,神经网络处理起来更顺手。

调顺序:把图片的「高×宽×颜色通道」排布,改成神经网络最喜欢的「颜色通道×高×宽」排布。

一句话总结:没有 toTensor(),图片就进不了神经网络的大门。


好了,下一篇直接让AI分析代码,AI之下没有看不懂的代码。

相关推荐
梁辰兴12 分钟前
百亿美元赌注变数,AI军备竞赛迎来转折点?
人工智能·ai·大模型·openai·英伟达·梁辰兴·ai军备竞赛
PaperRed ai写作降重助手14 分钟前
智能写作ai论文生成软件推荐
人工智能·aigc·ai写作·智能降重·paperred
龙山云仓17 分钟前
No140:AI世间故事-对话康德——先验哲学与AI理性:范畴、道德律与自主性
大数据·人工智能·深度学习·机器学习·全文检索·lucene
IT·小灰灰41 分钟前
30行PHP,利用硅基流动API,网页客服瞬间上线
开发语言·人工智能·aigc·php
新缸中之脑1 小时前
编码代理的未来
人工智能
Anarkh_Lee1 小时前
【小白也能实现智能问数智能体】使用开源的universal-db-mcp在coze中实现问数 AskDB智能体
数据库·人工智能·ai·开源·ai编程
John_ToDebug1 小时前
2026年展望:在技术涌现时代构筑确定性
人工智能·程序人生
AndyHeee2 小时前
【windows使用TensorFlow,GPU无法识别问题汇总,含TensorFlow完整安装过程】
人工智能·windows·tensorflow
jay神2 小时前
基于YOLOv8的木材表面缺陷检测系统
人工智能·深度学习·yolo·计算机视觉·毕业设计
交通上的硅基思维2 小时前
人工智能安全:风险、机制与治理框架研究
人工智能·安全·百度