pytorch-池化层

目录

  • [1. pooling池化层](#1. pooling池化层)
    • [1.1 down sample](#1.1 down sample)
    • [2.2 Max pooling](#2.2 Max pooling)
    • [1.3 Avg pooling](#1.3 Avg pooling)
    • [1.3 pooling pytorch实现](#1.3 pooling pytorch实现)
  • [2. up sample上采样](#2. up sample上采样)
    • [2.1 up sample](#2.1 up sample)
    • [2.2 pytorch实现](#2.2 pytorch实现)
  • [3. ReLU](#3. ReLU)

1. pooling池化层

1.1 down sample

见下图,隔行隔列采样

2.2 Max pooling

下图采用2x2的filter,步长是2,找到每个窗口的最大值

1.3 Avg pooling

下图采用2x2的filter,步长是2,求每个窗口的平均值值

1.3 pooling pytorch实现

pooling在pytorch也有两种方法,一种是类方法nn.MaxPool2d,另一种是F.avg_pool2d

总结:池化层的作用就是下采样

2. up sample上采样

2.1 up sample

图像上采样类似下图

2.2 pytorch实现

上采样使用F.interpolate函数

scale_factor决定了上采样的倍数

mode参数是插值算法,具体见官方文档

3. ReLU

下图是ReLU前后的两张feature map

ReLu input>0时,out是个线性函数

input<0时,out = 0

从图中可以看出在ReLU的作用下,负值变为0

pytorch实现

ReLU在pytorch也有两种方法,一种是类方法nn.ReLU,另一种是F.relu

相关推荐
YSGZJJ3 分钟前
股指期货的套保策略如何精准选择和规避风险?
人工智能·区块链
无脑敲代码,bug漫天飞5 分钟前
COR 损失函数
人工智能·机器学习
幽兰的天空9 分钟前
Python 中的模式匹配:深入了解 match 语句
开发语言·python
HPC_fac130520678161 小时前
以科学计算为切入点:剖析英伟达服务器过热难题
服务器·人工智能·深度学习·机器学习·计算机视觉·数据挖掘·gpu算力
网易独家音乐人Mike Zhou4 小时前
【卡尔曼滤波】数据预测Prediction观测器的理论推导及应用 C语言、Python实现(Kalman Filter)
c语言·python·单片机·物联网·算法·嵌入式·iot
安静读书4 小时前
Python解析视频FPS(帧率)、分辨率信息
python·opencv·音视频
小陈phd4 小时前
OpenCV从入门到精通实战(九)——基于dlib的疲劳监测 ear计算
人工智能·opencv·计算机视觉
Guofu_Liao5 小时前
大语言模型---LoRA简介;LoRA的优势;LoRA训练步骤;总结
人工智能·语言模型·自然语言处理·矩阵·llama
小二·5 小时前
java基础面试题笔记(基础篇)
java·笔记·python
小喵要摸鱼7 小时前
Python 神经网络项目常用语法
python