常见神经网络模块

一、全连接层FC

1.概念

全连接层(Fully Connected Layer,FC),其功能是将输入数据的所有特征映射到输出层,通过特征提取,在整个卷积神经网络中起到"分类器"的作用,进行分类或回归等任务。

全连接层是神经网络中的最后一层,也被称为"密集连接层"。

2.原理

在全连接层中,输入的每个神经元都与输出的每个神经元相连接。

全连接层通过对输入的线性变换和激活函数的非线性变换,将高维特征压缩或映射到目标维度。其数学定义如下:

其中σ是激活函数,W是权重矩阵,x是输入向量,b是偏置项

优点:1. 融合全局信息 2. 不受限制,可以表示任意线性映射

缺点:1. 参数量大 2. 容易过拟合 3. 会破坏空间结构,丢失语义信息 4. 要求输入图像大小固定

应用:1. 多层感知机MLP 2. CNN分类任务 3. 回归预测

相关推荐
私人珍藏库4 小时前
[Android] PeakFinder AR v4.8.89 (山峰全景识别+增强现实山峰查看器)
android·人工智能·智能手机·ar·工具·软件
月疯4 小时前
CNN卷积和反卷积输出的计算方法
深度学习·神经网络·cnn
CS创新实验室5 小时前
算法、齿轮与硅基大脑:数值计算发展简史
人工智能·算法·数值计算
能有时光5 小时前
PyTorch KernelAgent 源码解读 ---(4)--- ExtractorAgent
人工智能·pytorch·python
直接冲冲冲5 小时前
鱼书-PH4-类的作用
深度学习
fthux5 小时前
GitZip Pro 源码解析:一个 GitHub 文件/文件夹下载扩展是如何工作的(一)整体架构与扩展入口
人工智能·ai·开源·github·open source
aqi006 小时前
15天学会AI应用开发(十七)使用LangGraph实现会话记忆功能
人工智能·python·大模型·ai编程·ai应用
xixixi777776 小时前
三大 AI 安全里程碑:Akamai 高危风险预警、智能体水印强制落地、PQC 量子安全全产业链统一
大数据·人工智能·安全·ai·大模型·智能体·政策
AI小码7 小时前
LLM 应用的缓存工程:当每次 API 调用都在燃烧成本
java·人工智能·spring·计算机·llm·编程·api
code 小楊7 小时前
AI函数调用:Function Calling从理论到实战全解析
人工智能