24/10/12 算法笔记 汇聚层

汇聚(pooling)层等于池化层,它具有双重目的:降低卷积层对位置的敏感性,同时降低对空间降采样表示的敏感性。

空间降采样通常指的是在图像或信号处理中,通过减少数据的空间维度来降低数据量,同时尽可能保留重要的信息。

在卷积神经网络(CNN)中,卷积层对空间降采样具有一定的敏感性,这意味着卷积层对输入数据的空间位置变化比较敏感。例如,如果输入图像中的一个特征(如边缘或纹理)发生轻微的平移,卷积层可能会检测到不同的输出。这种敏感性在某些情况下是有益的,因为它允许网络捕捉到精确的特征位置,但在其他情况下,我们可能希望网络对输入的微小变化更加鲁棒。

为了降低这种敏感性并提高网络对输入变化的鲁棒性,通常会在卷积层之后引入池化层(Pooling Layer)。

复制代码
def pool2d(X, pool_size, mode='max'):
    p_h, p_w = pool_size
    Y = torch.zeros((X.shape[0] - p_h + 1, X.shape[1] - p_w + 1))
    for i in range(Y.shape[0]):
        for j in range(Y.shape[1]):
            if mode == 'max':
                Y[i, j] = X[i: i + p_h, j: j + p_w].max()
            elif mode == 'avg':
                Y[i, j] = X[i: i + p_h, j: j + p_w].mean()
    return Y

多通道

在处理多通道输入数据时,汇聚层在每个输入通道上单独运算,而不是像卷积层一样在通道上对输入进行汇总。 这意味着汇聚层的输出通道数与输入通道数相同。

所以要连接张量构建通道。

复制代码
X = torch.cat((X, X + 1), 1)
相关推荐
进击的丸子2 小时前
1126B的Demo实操——虹软ArcFace SDK(RV1126BP ARM64 V5.0)交叉编译与运行指南
人工智能·程序员·代码规范
独隅2 小时前
Cann-Samples 实战应用与场景落地指南
人工智能·cann·cann-samples
阿里云大数据AI技术2 小时前
让 Agent 学会诊断 Elasticsearch:一套证据绑定的智能运维方法论
人工智能
十有八七2 小时前
手搓 Agent(四):长点记性——上下文满了怎么办,怎么记住上一次
前端·人工智能·后端
星恒随风3 小时前
MySQL 从零入门(十):MVCC、Undo Log 与 Read View 详解——InnoDB 如何实现事务隔离?
linux·数据库·笔记·sql·mysql
米小虾3 小时前
Jev 拆解:不写字、只判断,一个「决策模型」如何接管 LLM 最贵的那一步
人工智能·agent
数字新视界3 小时前
全国产化动环监控平台在机房智能化管理中的应用探索
大数据·人工智能·数据中心·机房管理·模块化机房
laoyeye8313 小时前
手写 vLLM 分页 KV Cache(三):引用计数、写时复制(CoW)与前缀缓存
人工智能·github
小码哥0684 小时前
AI+能源管理系统如何用于工厂?云捷EMS能源管理系统功能与界面详解
人工智能·能源·能源管理系统·能耗监测·能源管理系统源码·企业能源管理系统·ai+能源管理系统