多层神经网络的核心特性
1）全连接：每个神经元都与上一层的所有神经元相连，其输出又是下一层所有神经元的输入。这个结构使得网络可以学习输入特征之间复杂的全局交互关系。
2）函数逼近能力：全局逼近定理证明，仅需一个足够宽的隐藏层，两层神经网络可以以任意精度逼近任何连续函数。（首先，函数可以伸缩和平移变换；其次，分段函数可以逼近任何曲线函数，当神经网络能够逼近分段函数时，便可认为神经网络可以逼近任何函数，而激活函数让线性的神经网络具备了分段表达的能力）
隐藏层的作用
从数学视角来看，隐藏层的核心作用在于实现空间变换。将原来线性不可分的数据转换成新的高维或特征空间，使其变得线性可分。
从物理视角来看，隐藏层模拟了人类从局部细节到整体概念的认知过程。它将原始输入特征通过非线性组合逐步抽象为更高维、更具语义的特征表示，从而简化最终分类决策。
逻辑回归如何解决异或问题
构建二层前馈神经网络来进行异或运算
用两个隐藏层神经元，一个解决非与，一个解决或，输出层使用与即可解决异或问题