常见神经网络模块

一、全连接层FC

1.概念

全连接层(Fully Connected Layer,FC),其功能是将输入数据的所有特征映射到输出层,通过特征提取,在整个卷积神经网络中起到"分类器"的作用,进行分类或回归等任务。

全连接层是神经网络中的最后一层,也被称为"密集连接层"。

2.原理

在全连接层中,输入的每个神经元都与输出的每个神经元相连接。

全连接层通过对输入的线性变换和激活函数的非线性变换,将高维特征压缩或映射到目标维度。其数学定义如下:

其中σ是激活函数,W是权重矩阵,x是输入向量,b是偏置项

优点:1. 融合全局信息 2. 不受限制,可以表示任意线性映射

缺点:1. 参数量大 2. 容易过拟合 3. 会破坏空间结构,丢失语义信息 4. 要求输入图像大小固定

应用:1. 多层感知机MLP 2. CNN分类任务 3. 回归预测

相关推荐
长不大的杨瑞杰2 分钟前
给 OpenCode v2 接入大模型:Provider、模型选择与 API Key 安全配置实战
人工智能·安全·ai·语言模型
虎鲸不是鱼15 分钟前
AI 自动化逆向(九)AI 会记住错的公共常量
人工智能·自动化·大模型·逆向·ai逆向
飞猫的边缘AI16 分钟前
芯片设计会不会全自动化?什么时候到来?
人工智能·ic设计·芯片设计·智能体·边缘ai·ai岗位·ai职业前景
class心平气和22 分钟前
软件测试-AI提示词库
人工智能
阿里云大数据AI技术30 分钟前
云栖实录|Hologres 5.0全新发布:Agent Native 的全模态实时数仓
大数据·人工智能·agent
reikocao34 分钟前
IMU预积分误差模型推导:协方差传播、残差构建、雅可比矩阵
人工智能·线性代数·矩阵
一级新生35 分钟前
Ollama 是什么、干什么用、怎么用
人工智能·dify·ollama·本地大模型
゛凌乱的记忆づ41 分钟前
50元从零到成品:一套AI辅助的嵌入式实战入门教程——IIC篇
人工智能·stm32·单片机·嵌入式硬件
Yolanda_20221 小时前
如何开发人工智能系统:从专家系统到机器学习
人工智能·机器学习
小天源1 小时前
品牌 AI 智能监测与自动化采集系统
大数据·人工智能·自动化