动手学深度学习(Pytorch版)代码实践 -卷积神经网络-22池化层

22池化层

python 复制代码
import torch
from torch import nn

# 最大汇聚层和平均汇聚层
def pool2d(X, pool_size, mode='max'):
    p_h, p_w = pool_size
    Y = torch.zeros((X.shape[0] - p_h + 1, X.shape[1] - p_w + 1))
    for i in range(Y.shape[0]):
        for j in range(Y.shape[1]):
            if mode == 'max':
                Y[i, j] = X[i: i + p_h, j: j + p_w].max()
            elif mode == 'avg':
                Y[i, j] = X[i: i + p_h, j: j + p_w].mean()
    return Y

X = torch.tensor([[0.0, 1.0, 2.0], [3.0, 4.0, 5.0], [6.0, 7.0, 8.0]])
print(pool2d(X, (2, 2)))
#(3 - 2 + 0 + 1) / 1 * (3 - 2 + 0 + 1) / 1
"""
tensor([[4., 5.],
        [7., 8.]])
"""
print(pool2d(X, (2, 2), 'avg'))
"""
tensor([[2., 3.],
        [5., 6.]])
"""

# 填充和步幅
X = torch.arange(16, dtype=torch.float32).reshape((1, 1, 4, 4))

#默认情况下,深度学习框架中的步幅与汇聚窗口的大小相同
#如果我们使用形状为(3, 3)的汇聚窗口,
#那么默认情况下,我们得到的步幅形状为(3, 3)。
pool2d = nn.MaxPool2d(3)
# (4 - 3 + 0 + 3) / 3 * (4 - 3 + 0 + 3) / 3
print(pool2d(X))
# 输入张量的大小是 4x4,而池化窗口是 3x3,
# 并且步幅也是 3,导致只能提取一个 3x3 的窗口
#tensor([[[[10.]]]])

# 手动设定填充和步幅
pool2d = nn.MaxPool2d(3, padding=1, stride=2)
# (4 - 3 + 2 + 2) / 2  * (4 - 3 + 2 + 2) / 2 
print(pool2d(X))
"""
tensor([[[[ 5.,  7.],
          [13., 15.]]]])
"""

pool2d = nn.MaxPool2d((2, 3), padding=(0, 1), stride=(2, 3))
# (4 - 2 + 0 + 2) / 2 * (4 - 3 + 2 + 3) / 3
print(pool2d(X))
"""
tensor([[[[ 5.,  7.],
          [13., 15.]]]])
"""

# 多个通道
# torch.cat 函数用于在指定的维度上拼接张量
#构建具有2个通道的输入
X = torch.cat((X, X + 1), 1)
print(X)
print(X.shape)
"""
tensor([[[[ 0.,  1.,  2.,  3.],
          [ 4.,  5.,  6.,  7.],
          [ 8.,  9., 10., 11.],
          [12., 13., 14., 15.]],

         [[ 1.,  2.,  3.,  4.],
          [ 5.,  6.,  7.,  8.],
          [ 9., 10., 11., 12.],
          [13., 14., 15., 16.]]]])
torch.Size([1, 2, 4, 4])
"""

pool2d = nn.MaxPool2d(3, padding=1, stride=2)
# (4 - 3 + 2 + 2) / 2 * (4 - 3 + 2 + 2) / 2
# print(pool2d(X))
"""
tensor([[[[ 5.,  7.],
          [13., 15.]],

         [[ 6.,  8.],
          [14., 16.]]]])
"""
相关推荐
EQUINOX114 分钟前
【论文阅读】| ViT精读
论文阅读·人工智能·深度学习·机器学习
金斗潼关17 分钟前
PyTorch+CNN实现衣物分类
pytorch·分类·cnn
装不满的克莱因瓶3 小时前
链式法则如何传递参数误差 —— 深入理解神经网络中的梯度传播
人工智能·python·深度学习·神经网络·数学·机器学习·ai
AndrewHZ14 小时前
【LLM技术全景】规模定律与模型演进:为什么模型越大越强?
人工智能·gpt·深度学习·语言模型·llm·openai·规模定律
手写码匠15 小时前
从零实现 Prompt 工程引擎:结构化提示、自动优化与多轮自省体系
人工智能·深度学习·算法·aigc
哈伦201915 小时前
第十二章 深度学习基础 案例:MLP实现银行单据手写数字识别
人工智能·深度学习·图像识别
lqqjuly16 小时前
MLA — 多头潜在注意力深度解析
深度学习·神经网络·算法
Black蜡笔小新16 小时前
企业AI算力工作站DLTM深度学习推理工作站零代码私有化重塑企业AI落地新模式
人工智能·深度学习
啦啦啦_999916 小时前
4. Transformer_4_输出部分
人工智能·深度学习·transformer
DogDaoDao17 小时前
【GitHub】VoxCPM2 实战全解析:原理、部署与效果对比
深度学习·大模型·github·音频·语音模型·tss·文本生成语音