深度学习知识点3-CBAM轻量的注意力模块

论文:(2018)包含空间注意力通道注意力 两部分1807.06521https://arxiv.org/pdf/1807.06521

**通道注意力:**对input feature maps每个feature map做全局平均池化和全局最大池化,得到两个1d向量,再经过conv,ReLU,1x1conv,sigmoid进行归一化后对input feature maps加权。

**空间注意力:**对feature map的每个位置的所有通道上做最大池化和平均池化,得到两个feature map,再对这两个feature map进行7x7 Conv,再使BN和sigmoid归一化。

局限性:CBAM是通过对每个位置的多个通道取最大值和平均值来作为加权系数,因此这种加权只考虑了局部范围的信息。

参考:CVPR2021|| Coordinate Attention注意力机制_位置注意力机制-CSDN博客

相关推荐
智匠MindCraft Al9 分钟前
GPT o1 模型使用及API调用
人工智能·gpt·ai·语言模型·chatgpt
一者仁心10 分钟前
【AI技术】GPT-SoVits训练日志
人工智能·gpt
谢眠37 分钟前
机器学习day3-KNN算法、模型调优与选择
人工智能·算法·机器学习
Jack黄从零学c++1 小时前
opencv(c++)----图像的读取以及显示
c++·人工智能·opencv
爱睡觉的咋1 小时前
GNN入门案例——KarateClub结点分类
人工智能·分类·数据挖掘·图神经网络
goomind1 小时前
YOLOv11实战宠物狗分类
人工智能·yolo·机器学习·计算机视觉·分类·聚类
正在走向自律1 小时前
AI写作(二)NLP:开启自然语言处理的奇妙之旅(2/10)
人工智能·自然语言处理·ai写作
Jurio.1 小时前
【SPIE出版,EI稳定检索】2024年信号处理与神经网络应用国际学术会议(SPNNA 2024,12月13-15日)
图像处理·人工智能·深度学习·神经网络·机器学习·计算机视觉·信号处理
zy0101011 小时前
使用 IDEA 创建 Java 项目(二)
java·人工智能·intellij-idea
液态不合群2 小时前
Spring AI 再更新:如何借助全局参数实现智能数据库操作与个性化待办管理
数据库·人工智能·spring