常见神经网络模块

一、全连接层FC

1.概念

全连接层(Fully Connected Layer,FC),其功能是将输入数据的所有特征映射到输出层,通过特征提取,在整个卷积神经网络中起到"分类器"的作用,进行分类或回归等任务。

全连接层是神经网络中的最后一层,也被称为"密集连接层"。

2.原理

在全连接层中,输入的每个神经元都与输出的每个神经元相连接。

全连接层通过对输入的线性变换和激活函数的非线性变换,将高维特征压缩或映射到目标维度。其数学定义如下:

其中σ是激活函数,W是权重矩阵,x是输入向量,b是偏置项

优点:1. 融合全局信息 2. 不受限制,可以表示任意线性映射

缺点:1. 参数量大 2. 容易过拟合 3. 会破坏空间结构,丢失语义信息 4. 要求输入图像大小固定

应用:1. 多层感知机MLP 2. CNN分类任务 3. 回归预测

相关推荐
行走的小派8 小时前
Zero 4不是Zero 3W的升级版,是香橙派的策略补位
人工智能·香橙派·边缘ai
IanSkunk8 小时前
企业AI办公落地技术拆解:从WorkBuddy任务引擎到JOTO实施路径
大数据·人工智能
Mycdn_WD9 小时前
项目交付后的机房,能参与边缘节点协作吗?
人工智能·cdn·pcdn·城域网·pcdn资源招募
LayZhangStrive9 小时前
线性代数 - 第1章 行列式
人工智能·线性代数·机器学习
Michaelliu_dev9 小时前
多模态大模型推理流程解析
人工智能·llm·多模态大模型·vit·llava·rope·mllm
正经教主9 小时前
Trae Work 提示词使用要求与教程
人工智能
潜龙952710 小时前
手机自动化测试AI新方案
人工智能·智能手机
烂蜻蜓10 小时前
AI入门教程(十):AI API开发:从“会用AI聊天”到“让AI在你的代码里干活”的完整指南
人工智能·ai
书签123610 小时前
产教融合的技术解法:AI数字孪生驱动的校企协同育人系统架构与实践
人工智能·系统架构
东舟技术10 小时前
AI全链路测试智能体上线啦!
人工智能·功能测试·测试工具·自动化