常见神经网络模块

一、全连接层FC

1.概念

全连接层(Fully Connected Layer,FC),其功能是将输入数据的所有特征映射到输出层,通过特征提取,在整个卷积神经网络中起到"分类器"的作用,进行分类或回归等任务。

全连接层是神经网络中的最后一层,也被称为"密集连接层"。

2.原理

在全连接层中,输入的每个神经元都与输出的每个神经元相连接。

全连接层通过对输入的线性变换和激活函数的非线性变换,将高维特征压缩或映射到目标维度。其数学定义如下:

其中σ是激活函数,W是权重矩阵,x是输入向量,b是偏置项

优点:1. 融合全局信息 2. 不受限制,可以表示任意线性映射

缺点:1. 参数量大 2. 容易过拟合 3. 会破坏空间结构,丢失语义信息 4. 要求输入图像大小固定

应用:1. 多层感知机MLP 2. CNN分类任务 3. 回归预测

相关推荐
OreDev几秒前
模型驾驭工程(Harness Engineering)与 DeepSeek Harness 的定位
人工智能
DogDaoDao3 分钟前
MotionWAM 深度解析:让视频世界模型跑进实时人形机器人全身控制
深度学习·机器人·大模型·音视频·人形机器人·视频大模型·motionwam
EEET智选4 分钟前
科技晨间速报 | 苹果折叠屏deepseek新模型同日发布
人工智能·科技·ai·aigc·手机
智购科技无人售货机工厂4 分钟前
2026 AI视觉货柜渗透率突破48%:从技术选型到规模化部署的工程实践~YH
人工智能
CIO_Alliance5 分钟前
AI微调系列(1)| 全量微调、LoRA、QLoRA 三种方案怎么选
前端·人工智能·神经网络·机器学习·embedding·企业ai转型
真上帝的左手8 分钟前
27. 数据产品- BI - AI 应用实战终篇-从 RAG 架构到企业级平台落地
大数据·人工智能·架构
桃西西呀10 分钟前
苹果刚发布 iPhone Duo,可 3104 款手机参数一聚类,参数分了档,价格却不匹配
人工智能·机器学习·llm
Ai小way12 分钟前
【deepseek 实战·22】把键盘变成钢琴:五声音阶保底,怎么按都不难听
人工智能
Mr数据杨13 分钟前
CIFAR10 图像分类实战复盘 从 Kaggle 练习赛到可落地视觉基线
人工智能·数据分析·kaggle竞赛
zzzll111116 分钟前
LLM 学习第 24 课:Agent Harness
前端·人工智能·学习