神经网络与空间变换关系

神经网络的隐藏层实际上就是在进行一次空间变换,隐藏层中神经元的个数就是变换后空间的维度,代表可以升维也可以降维。

不同是 神经网络的一层运算不只有矩阵乘法,还会有一个加法。以及 进行完线性计算后,还要经过非线性的激活函数

  1. 与权重系数W相乘,相当于是乘以一个矩阵,进行和空间的旋转或者是拉伸变换,

​2. 加上偏置系数b,相当于对空间向量进行了一个平移操作

  1. 经过非线性的激活函数,让模型描述更复杂的情况,实现多对一(比如分类问题,如果将每张图片当作原空间的一个点,最后映射到新空间的一个点(猫))

隐藏层虽然有了更深的层,但是神经元的个数却在减少。

隐藏层越深,抽象程度越高

相关推荐
科技林总10 小时前
旋转位置编码(RoPE)
人工智能
综合资讯10 小时前
半导体上游ETF的配置标尺
人工智能·科技·物联网·半导体·科创
All The Way North-10 小时前
【TorchMetrics精通系列②】混淆矩阵:归一化陷阱、TP/FP推导与10分类文本热力图分析
深度学习·模型评估·评价指标·多分类·混淆矩阵·归一化·torchmetrics
东方佑10 小时前
BitsFusion + Precision Diffusion — UV 实验报告
人工智能
旅僧10 小时前
王树森老师强化学习--同声传译版3
python·深度学习
大模型码小白11 小时前
向量化引擎与 AI 排障:当 SIMD 遇到异常检测,存储诊断的范式转移
java·大数据·数据库·人工智能·python
遥感知识服务11 小时前
水库是在缓解干旱,还是把干旱重新分配?
人工智能
在水一缸11 小时前
当 AI 拥有了“核按钮”:深入解析 MCP 服务器与命令执行护栏
运维·服务器·人工智能·命令执行·智能体·ai安全·mcp
weixin_4462608511 小时前
ARM++:面向深度伪造检测器的多域智能体协同可迁移对抗攻击框架
arm开发·人工智能
tinygone11 小时前
在Windows上部署Unlimited-ocr并提供给大模型使用
人工智能·windows·经验分享