神经网络的隐藏层实际上就是在进行一次空间变换,隐藏层中神经元的个数就是变换后空间的维度,代表可以升维也可以降维。
不同是 神经网络的一层运算不只有矩阵乘法,还会有一个加法。以及 进行完线性计算后,还要经过非线性的激活函数
- 与权重系数W相乘,相当于是乘以一个矩阵,进行和空间的旋转或者是拉伸变换,
2. 加上偏置系数b,相当于对空间向量进行了一个平移操作
- 经过非线性的激活函数,让模型描述更复杂的情况,实现多对一(比如分类问题,如果将每张图片当作原空间的一个点,最后映射到新空间的一个点(猫))
隐藏层虽然有了更深的层,但是神经元的个数却在减少。
隐藏层越深,抽象程度越高