神经网络与空间变换关系

神经网络的隐藏层实际上就是在进行一次空间变换,隐藏层中神经元的个数就是变换后空间的维度,代表可以升维也可以降维。

不同是 神经网络的一层运算不只有矩阵乘法,还会有一个加法。以及 进行完线性计算后,还要经过非线性的激活函数

  1. 与权重系数W相乘,相当于是乘以一个矩阵,进行和空间的旋转或者是拉伸变换,

​2. 加上偏置系数b,相当于对空间向量进行了一个平移操作

  1. 经过非线性的激活函数,让模型描述更复杂的情况,实现多对一(比如分类问题,如果将每张图片当作原空间的一个点,最后映射到新空间的一个点(猫))

隐藏层虽然有了更深的层,但是神经元的个数却在减少。

隐藏层越深,抽象程度越高

相关推荐
lqjun08273 分钟前
PyTorch实现CrossEntropyLoss示例
人工智能·pytorch·python
心灵彼岸-诗和远方13 分钟前
芯片生态链深度解析(三):芯片设计篇——数字文明的造物主战争
人工智能·制造
小蜗笔记22 分钟前
显卡、Cuda和pytorch兼容问题
人工智能·pytorch·python
高建伟-joe34 分钟前
内容安全:使用开源框架Caffe实现上传图片进行敏感内容识别
人工智能·python·深度学习·flask·开源·html5·caffe
tyatyatya1 小时前
MATLAB的神经网络工具箱
开发语言·神经网络·matlab
Cloud Traveler1 小时前
迁移学习:解锁AI高效学习与泛化能力的密钥
人工智能·学习·迁移学习
IT_xiao小巫1 小时前
AI 实践探索:辅助生成测试用例
人工智能·测试用例
一切皆有可能!!1 小时前
ChromaDB 向量库优化技巧实战
人工智能·语言模型
星川皆无恙1 小时前
大模型学习:Deepseek+dify零成本部署本地运行实用教程(超级详细!建议收藏)
大数据·人工智能·学习·语言模型·架构
观测云1 小时前
观测云产品更新 | 安全监测、事件中心、仪表板AI智能分析等
人工智能·安全