常见神经网络模块

一、全连接层FC

1.概念

全连接层(Fully Connected Layer,FC),其功能是将输入数据的所有特征映射到输出层,通过特征提取,在整个卷积神经网络中起到"分类器"的作用,进行分类或回归等任务。

全连接层是神经网络中的最后一层,也被称为"密集连接层"。

2.原理

在全连接层中,输入的每个神经元都与输出的每个神经元相连接。

全连接层通过对输入的线性变换和激活函数的非线性变换,将高维特征压缩或映射到目标维度。其数学定义如下:

其中σ是激活函数,W是权重矩阵,x是输入向量,b是偏置项

优点:1. 融合全局信息 2. 不受限制,可以表示任意线性映射

缺点:1. 参数量大 2. 容易过拟合 3. 会破坏空间结构,丢失语义信息 4. 要求输入图像大小固定

应用:1. 多层感知机MLP 2. CNN分类任务 3. 回归预测

相关推荐
大厂技术总监下海16 小时前
你的个人AI工作站已就绪:Ollama开源框架,支持多模态、可定制、一键部署
人工智能·机器学习·开源
行业探路者16 小时前
如何利用二维码提升产品画册的制作与传播?
大数据·人工智能·安全·二维码·设备巡检
安达发公司16 小时前
安达发|给“工业心脏”装上新大脑:APS生产排产的硬核智慧
大数据·人工智能·aps高级排程·aps排程软件·生产计划排单软件·aps生产排产
chatexcel16 小时前
ChatExcel一年完成3轮融资,构建全模态数据链路平台,定义 AI for Data
人工智能
悦数图数据库16 小时前
“复旦大学—杭州悦数先进金融图技术校企联合研究中心年度总结会”圆满举行
大数据·数据库·人工智能
星浩AI16 小时前
LCEL:打造可观测、可扩展、可部署的 LangChain 应用
人工智能·后端·python
agicall.com16 小时前
信创电话助手自动录音功能说明
人工智能·语音识别·自动录音·座机录音·固话录音
初次攀爬者16 小时前
RAG核心升级|多LLM模型动态切换方案
人工智能·后端·ai编程