标题:【神经网络入门】单层神经网络(感知机):结构、原理与局限
摘要:
单层神经网络(感知机)是最基础的神经网络:输入层+输出层,无隐藏层,只能解决线性可分问题。本文从结构到局限,一文讲透。
一、结构(只有输入+输出,无隐藏层)
- 输入层:x1,x2,...,xnx_1, x_2, ..., x_nx1,x2,...,xn
- 权重:w1,w2,...,wnw_1, w_2, ..., w_nw1,w2,...,wn
- 偏置:bbb
- 输出:y=f(∑wixi+b)y = f(\sum w_i x_i + b)y=f(∑wixi+b)
(感知机常用阶跃函数:>0 输出1,否则0)
二、数学表达
y={1,∑i=1nwixi+b>00,otherwise y = \begin{cases} 1, & \sum_{i=1}^n w_i x_i + b > 0 \\ 0, & \text{otherwise} \end{cases} y={1,0,∑i=1nwixi+b>0otherwise
三、能解决什么问题
只能处理线性可分问题:
- 与、或逻辑
- 二分类(数据可被一条直线/平面分开)
四、致命局限:不能解决异或 XOR
XOR 问题非线性可分,单层感知机永远学不会,这直接导致 60 年代第一次 AI 寒冬。
小结:
单层神经网络(感知机)是线性模型,能力有限,但它是所有神经网络的起点。理解它,才能理解为什么需要多层神经网络。