【学习】感受野

感受野(receptive field)是指在神经网络中,某一层输出的特征图上的一个像素点对应输入图像的区域大小。在深度神经网络中,随着网络层数的增加,特征图的感受野也会逐渐增大。这是因为每一层的卷积操作都会扩大感受野。

为什么卷积操作会扩大感受野

如上图所示,对于一个5x5的图像,第一次采用了3x3卷积,第二次也是3x3卷积,但是图中只是画出了第二次卷积中获得的一个点。

第二次卷积的一个点,他的感受野是第一次卷积的9个点,而第一次卷积对于的9个点,如图中红圈1和红圈2所示,该层9个点可以包含整个5x5图像。所以第二层卷积的感受野是5x5,而第一层是3x3。

假设我们有一个输入图像,大小为5x5。在第一层使用3x3的卷积核进行卷积操作时,卷积核会滑动在输入图像上,每次都对应一个3x3的区域,生成一个输出特征图。这个输出特征图的每个像素点,都受到了输入图像上相应的3x3区域内的信息影响。这样,第一层的每个输出像素点的感受野是3x3,因为它只能看到输入图像的一个3x3的局部区域。

现在,让我们来看第二层。假设我们再次使用一个3x3的卷积核对第一层的输出特征图进行卷积操作。这个3x3的卷积核会滑动在第一层的输出特征图上,每次也对应一个3x3的区域。但是这次不同的是,第一层的每个输出像素点都代表了输入图像上一个5x5的局部区域的信息。因此,第二层的每个输出像素点的感受野是5x5,因为它可以看到输入图像的一个5x5的局部区域。

换句话说,在第二层中,每个输出像素点都可以追溯到输入图像的更大区域,这是因为它们是由第一层输出的像素点通过卷积操作得到的。因此,第二层的感受野比第一层大,这种情况会随着网络层数的增加而继续发生,从而导致特征图的感受野逐渐增大。

相关推荐
Ivanqhz6 小时前
激活函数在 Transformer 中的作用及各种变体简述
java·linux·数据库·人工智能·深度学习
青柠之夏cc7 小时前
AI与教育:个性化学习助手让“因材施教“成为现实,但代价是隐私?
人工智能·学习
晚安code8 小时前
大模型是什么?讲透 Token、上下文窗口、Temperature 和 MoE
人工智能·深度学习·机器学习
for_ever_love__8 小时前
机器学习入门——手写线性回归与梯度下降
人工智能·python·学习·机器学习·线性回归
在猴站学算法8 小时前
(SQL注入学习)无回显的报错注入(Error-Based)
学习·网络安全·sql注入·ctf竞赛
李航19839 小时前
AI定制柜建模,需要详细的建模规范和标准流程
人工智能·python·计算机视觉·ai·ai编程
hahaha60169 小时前
色彩恒常性概述
人工智能·嵌入式硬件·数码相机·计算机视觉
Zguigo9 小时前
【CUDA6】CUDA Stream 是什么,为什么 CUDA 是异步执行,如何正确测量 GPU 时间以及多个任务如何重叠执行
人工智能·pytorch·深度学习
知识分享小能手10 小时前
C++ 学习教程,从入门到精通,C++ 友元、异常和其他特性 — 详细知识点(15)
开发语言·c++·学习
hahaha601610 小时前
Shades-of-Gray (SoG) 算法--白平衡算法
人工智能·嵌入式硬件·算法·计算机视觉