【神经网络核心】张量、正向传播(空间映射)、反向传播(调整映射参数)

1.张量

前面我们有一篇文章:神经网络基础---核心数据结构---张量。

神经网络中的基本运算单位是张量。在学习到大模型中的Embeding技术时,才焕然大悟,现实中的一切数据,想要能够被神经网络处理和理解,都必须转为张量表示,这样它才能进入到神经网络中被处理。Embeding就是把传统的图像,文字,声音数据,转换为张量的过程。具体过程这里就不详细描述了,可以问一问AI。

简单来说,张量就是所有数据在神经网络中的抽象表示方法。对于不懂神经网络的人来说,当他看到计算机能够识别图像,理解文字,真的会有一种神奇的感觉。但是对懂的人来说,其实计算机只是在进行张量计算,借助训练后的神经网络,计算机的输出非常逼近人类的思考,这种逼近就是神经网络的核心能力。

2.正向传播(空间映射)

神经网络就是一个输入输出系统,输入的张量最后会转换为输出张量。输入张量和输出张量的形状没有必然关系。这可不就是将输入张量通过神经网络这个张量映射工具映射成输出张量吗?

假设输入张量是一束光,那么神经网路就是一个复杂的透镜系统,透镜的输出是五彩斑斓的,经过变换的光线。

以传统的图像分类任务为例。图像分类任务就是将某N张图像归为M类的映射过程。整个映射过程不需要人工去设置参数,而是通过反向传播自动调整的,因为神经网络的可塑性非常强。

3.反向传播(调整映射参数)

反向传播(梯度下降)就是调整映射参数,减少误差的过程,相当于调整神经网络这个透镜系统的透镜的角度、位置、折射率等等非常多的参数,形成一个非常复杂的映射系统。

4. 总结

我认为这三点最能描述神经网络的工作原理,在众多的专业词汇中找到核心要素,防止迷失方向。

相关推荐
瓶瓶持续学习中5 小时前
物理AI与具身智能的技术架构区别:从空间建模到机器人动作执行
人工智能·机器人
羲云网络5 小时前
GPT Image 2.6 精准编辑前,先排查参考图的访问权限与输入交接
图像处理·人工智能·aigc
snakeshe10105 小时前
ChatGLM行业垂直领域微调实战:从需求分析到数据集加载完整流程
人工智能
智联视频超融合平台8 小时前
视频 AI 的误报之战,正在从调参数卷到改架构
人工智能·大模型·边缘计算·视频监控·安防
水如烟9 小时前
孤能子视角:智能的边界不在算法强弱,在可形式化性——从概率法到因果推理,选择池的边界一直在那里
人工智能
万里侯10 小时前
日志聚类之后别把 noise 扔掉:降噪应该改变视图,不抹掉证据
人工智能·微服务·ai·容器·k8s
澹锦汐10 小时前
纯前端秋日银杏与枫叶落叶色板智能聚类器:基于 K-Means 色彩量化与直方图自动配方提取
前端·人工智能·ai·语言模型·vue·react·k-means
71777718 小时前
国内 AI 研发效能工具怎么选:2026 年基于公开信息的选型框架与 Gitee 实践
人工智能·gitee
Csvn18 小时前
换供应商要改一遍代码?把模型接入收进一层网关(C04)
人工智能·aigc·agent