Inception网络(吴恩达深度学习笔记)

目录

Inception网络

(1)简介

(2)Inception网络的核心与特点

(3)例子

(4)完整示例


Inception网络
(1)简介
  • Inception网络就是 Inception模块 连接而成的网络。
  • Inception模块的作用就是 实现了多尺度特征的融合 :在同一层中并行使用不同尺寸的过滤器和池化操作,提取不同尺度的图像特征并堆叠起来,让网络自主选择更有效的特征。
(2)Inception网络的核心与特点
  • Inception网络的核心:多尺度特征融合

  • Inception网络的特点:1×1卷积减少计算量

  • 核心与特点相辅相成,核心会增加通道数,增加计算量,而特点缓解了这一点。(下面的完整示例可以解释)

(3)例子
  • 28×28×192的输入。
  • 如果使用1×1卷积,输出结果会是28×28×#,假设输出为28×28×64(绿色)。
  • 如果使用3×3的过滤器,那么输出是28×28×128(蓝色)。然后我们把第二个输出堆积到第一个输出上,为了匹配维度,我们应用same卷积。
  • 用5×5过滤器,输出变成28×28×32(紫色)。
  • 或许我们不想要卷积层,那就可以使用池化层,这里用最大池化操作,为了匹配所有维度,使用padding,步幅为1。
  • 这就是一个Inception模块:输入值通过几个不同类型的卷积,然后把它们的输出堆叠到一起。
(4)完整示例
  • 一个28×28×192的输入。
  • ①第一行:直接通过一个1×1的卷积层,这样的话过程就只有一步,假设这个层的输出是28×28×64。
  • ②第二行:为了在这个3×3的卷积层中节省运算量,先1×1卷积,这样的话3×3的层将会输出28×28×128。
  • ③第三行:先通过一个1×1的层,再通过一个5×5的层,1×1的层有16个通道,而5×5的层输出为28×28×32,共32个通道。
  • ④第四行:最后是池化层,这里进行最大池化操作,采用same类型的padding进行池化,其输出将会是28×28×192,再加上一个1×1的卷积层,将通道的数量缩小到28×28×32,避免最后输出时,池化层占据所有的通道。
  • 将这些方块全都连接起来,最后得到一个28×28×256的输出。这就是一个Inception模块(Inception module),而Inception网络所做的就是将这些模块都组合到一起。
相关推荐
jrlong13 小时前
DataWhale大模型基础与量化微调task4学习笔记(第 1章:参数高效微调_PEFT技术综述)
笔记·学习
MistaCloud13 小时前
Pytorch进阶训练技巧(二)之梯度层面的优化策略
人工智能·pytorch·python·深度学习
被遗忘的旋律.13 小时前
Linux驱动开发笔记(二十四)——(上)IIO + icm20608驱动
linux·驱动开发·笔记
zhangrelay13 小时前
thinkpad等笔记本电脑在ubuntu等linux系统下电池校准如何做?
笔记·学习
她说可以呀13 小时前
网络基础初识
java·网络·java-ee
Alonse_沃虎电子13 小时前
沃虎音频变压器:专业音频系统中的关键组件
网络·物联网·音视频·产品·方案·变压器·电子元器件
卓应米老师13 小时前
【网络配置实战】堆叠的配置
运维·服务器·网络·华为认证
我在人间贩卖青春13 小时前
IP地址与端口号
网络·ip·端口
deephub13 小时前
RAG 检索模型如何学习:三种损失函数的机制解析
人工智能·深度学习·损失函数·信息检索·rag
_Kayo_13 小时前
Node.JS 学习笔记8
笔记·学习·node.js