24/10/12 算法笔记 汇聚层

汇聚(pooling)层等于池化层,它具有双重目的:降低卷积层对位置的敏感性,同时降低对空间降采样表示的敏感性。

空间降采样通常指的是在图像或信号处理中,通过减少数据的空间维度来降低数据量,同时尽可能保留重要的信息。

在卷积神经网络(CNN)中,卷积层对空间降采样具有一定的敏感性,这意味着卷积层对输入数据的空间位置变化比较敏感。例如,如果输入图像中的一个特征(如边缘或纹理)发生轻微的平移,卷积层可能会检测到不同的输出。这种敏感性在某些情况下是有益的,因为它允许网络捕捉到精确的特征位置,但在其他情况下,我们可能希望网络对输入的微小变化更加鲁棒。

为了降低这种敏感性并提高网络对输入变化的鲁棒性,通常会在卷积层之后引入池化层(Pooling Layer)。

def pool2d(X, pool_size, mode='max'):
    p_h, p_w = pool_size
    Y = torch.zeros((X.shape[0] - p_h + 1, X.shape[1] - p_w + 1))
    for i in range(Y.shape[0]):
        for j in range(Y.shape[1]):
            if mode == 'max':
                Y[i, j] = X[i: i + p_h, j: j + p_w].max()
            elif mode == 'avg':
                Y[i, j] = X[i: i + p_h, j: j + p_w].mean()
    return Y

多通道

在处理多通道输入数据时,汇聚层在每个输入通道上单独运算,而不是像卷积层一样在通道上对输入进行汇总。 这意味着汇聚层的输出通道数与输入通道数相同。

所以要连接张量构建通道。

X = torch.cat((X, X + 1), 1)
相关推荐
m0_7482329213 分钟前
DALL-M:基于大语言模型的上下文感知临床数据增强方法 ,补充
人工智能·语言模型·自然语言处理
szxinmai主板定制专家19 分钟前
【国产NI替代】基于FPGA的32通道(24bits)高精度终端采集核心板卡
大数据·人工智能·fpga开发
海棠AI实验室22 分钟前
AI的进阶之路:从机器学习到深度学习的演变(三)
人工智能·深度学习·机器学习
机器懒得学习33 分钟前
基于YOLOv5的智能水域监测系统:从目标检测到自动报告生成
人工智能·yolo·目标检测
QQ同步助手1 小时前
如何正确使用人工智能:开启智慧学习与创新之旅
人工智能·学习·百度
AIGC大时代1 小时前
如何使用ChatGPT辅助文献综述,以及如何进行优化?一篇说清楚
人工智能·深度学习·chatgpt·prompt·aigc
流浪的小新1 小时前
【AI】人工智能、LLM学习资源汇总
人工智能·学习
云边有个稻草人2 小时前
【优选算法】—复写零(双指针算法)
笔记·算法·双指针算法
martian6652 小时前
【人工智能数学基础篇】——深入详解多变量微积分:在机器学习模型中优化损失函数时应用
人工智能·机器学习·微积分·数学基础
人机与认知实验室3 小时前
人、机、环境中各有其神经网络系统
人工智能·深度学习·神经网络·机器学习