一、全连接层FC
1.概念
全连接层(Fully Connected Layer,FC),其功能是将输入数据的所有特征映射到输出层,通过特征提取,在整个卷积神经网络中起到"分类器"的作用,进行分类或回归等任务。
全连接层是神经网络中的最后一层,也被称为"密集连接层"。
2.原理
在全连接层中,输入的每个神经元都与输出的每个神经元相连接。
全连接层通过对输入的线性变换和激活函数的非线性变换,将高维特征压缩或映射到目标维度。其数学定义如下:
其中σ是激活函数,W是权重矩阵,x是输入向量,b是偏置项

优点:1. 融合全局信息 2. 不受限制,可以表示任意线性映射
缺点:1. 参数量大 2. 容易过拟合 3. 会破坏空间结构,丢失语义信息 4. 要求输入图像大小固定
应用:1. 多层感知机MLP 2. CNN分类任务 3. 回归预测