每天五分钟计算机视觉:使用1*1卷积层来改变输入层的通道数量

本文重点

在卷积神经网络中有很多重要的卷积核,比如1*1的卷积核,3*3的卷积核,本文将讲解1*1的卷积核的使用,它在卷积神经网络中具有重要的地位。由于1*1的卷积核使用了最小的窗口,那么1*1的卷积核就失去了卷积层可以识别高和宽维度上相邻元素构成的模式的功能。所以1*1的卷积核的主要计算发生在通道维上。

使用1*1卷积完成通道压缩

对于一个 28×28×192 的输入层,我们可以使用池化层压缩它的高度和宽度 ,但如果通道数量很大,如何才能压缩通道呢?

该如何把28×28×192压缩为 28×28×32 维度呢?你可以用 32个大小为 1×1×192 的过滤器,也就是说你使用了 32 个过滤器,输出层为 28×28×32,这就是压缩通道数(nc)的方法。

我们可以认为1×1 卷积只是添加了非线性函数,所以让网络学习更复杂的函数,我们可以再添加一层使用192个大小为 1×1*192的过滤器,其输入为 28×28×192,输出为 28×28×192。这样输入和输出的维度是一样的,都是28×28×192,但是后面的输出比前面的输入可以认为提取到了更加复杂的特征。

相关推荐
这张生成的图像能检测吗44 分钟前
(论文速读)LLSA:把 DiT 稀疏注意力从二次复杂度降到对数线性
计算机视觉·注意力机制·图像生成
2601_962966641 小时前
数学与应用数学专业想进管理咨询,2027届秋招需要补哪些商业知识和技能?
人工智能
ss2731 小时前
AI全栈实战 | 3.2-01 Python 基础:四大数据容器怎么选,推导式为什么是 Pythonic 的灵魂
开发语言·人工智能·python
Sweet锦1 小时前
不调 Python,不装向量库:我用纯 Java 写了一套以图搜图引擎
java·人工智能·开源·图搜索
fpcc1 小时前
AI和大模型—JEV模型
人工智能
weixin_446260851 小时前
面向演进式企业AI智能体技能的持续流程级评估
人工智能
量子-Alex1 小时前
【大模型后训练SFT】Finetuning with Sampling: SFT Learns Better Than You Think
人工智能·深度学习·机器学习
ForDreamMusk1 小时前
Transformer Encoder Block
人工智能·深度学习·transformer
W***25921 小时前
深度解读AI Work Agent长程任务执行的底层机制与落地边界
人工智能
打工仔折腾 AI2 小时前
LLaMA 1 到 LLaMA 3 架构演进拆解:从 RoPE、GQA 到词表扩张
人工智能·后端·python·深度学习·langchain·llama