【机器学习300问】101、1x1卷积有什么作用?

卷积神经网络最重要的操作就是卷积层的卷积操作,之前文章中介绍过,卷积核filter往往都是3x3或者5x5什么的,但有一种非常特殊的卷积------1x1卷积。他在CNN中扮演着非常重要的角色。

一、通道维度的降维/升维

这是1x1卷积最显著的作用之一。通过应用具有较少输出通道的1x1卷积层,可以有效减少网络中的参数数量,从而降低模型的复杂度并帮助防止过拟合。相反,如果使用具有更多输出通道的1x1卷积,则可以增加特征图的深度,为网络引入更多的非线性,增强其表达能力。
通道数192降维至32

二、计算通道间的组合权重

1x1卷积,虽然没有空间维度上的滑动(因为核大小为1x1),但它依然在通道维度上操作。想象一下,如果你的输入特征图有C个通道,那么一个1x1卷积层中的每个卷积核也将有C个权重,对应于输入的每一个通道。这些权重可以被视为对输入通道的一种加权组合方式。有助于捕捉更高级别的特征交互。
对输入的不同特征进行线性组合

相关推荐
Blossom.118几秒前
基于深度学习的图像分类:使用ShuffleNet实现高效分类
人工智能·python·深度学习·目标检测·机器学习·分类·数据挖掘
冰封剑心9 分钟前
Docker配置文件daemon.json使用及说明
人工智能·机器学习·计算机视觉
pk_xz12345621 分钟前
社区资源媒体管理系统设计与实现
网络·python·深度学习·算法·数据挖掘·媒体
Guheyunyi22 分钟前
安全风险监测系统是什么?内容有哪些?
大数据·人工智能·深度学习·安全·信息可视化
AI4Sci.2 小时前
在云服务器上基于lora微调Qwen2.5-VL-7b-Instruct模型(下)
人工智能·算法·机器学习·大模型·lora微调·大模型本地部署·qwen2.5-vl-7b
TiAmo zhang2 小时前
深度学习与图像处理 | 基于PaddlePaddle的梯度下降算法实现(线性回归投资预测)
图像处理·深度学习·算法
笔触狂放2 小时前
【机器学习】第八章 模型评估及改进
人工智能·深度学习·机器学习
Blossom.1183 小时前
基于深度学习的医学图像分析:使用YOLOv5实现细胞检测
人工智能·python·深度学习·yolo·机器学习·分类·迁移学习
cwn_4 小时前
自然语言处理NLP(2)
人工智能·深度学习·神经网络·机器学习·自然语言处理
IT古董4 小时前
【第四章:大模型(LLM)】01.神经网络中的 NLP-(2)Seq2Seq 原理及代码解析
rnn·深度学习·lstm