深度学习知识点3-CBAM轻量的注意力模块

论文:(2018)包含空间注意力通道注意力 两部分1807.06521https://arxiv.org/pdf/1807.06521

**通道注意力:**对input feature maps每个feature map做全局平均池化和全局最大池化,得到两个1d向量,再经过conv,ReLU,1x1conv,sigmoid进行归一化后对input feature maps加权。

**空间注意力:**对feature map的每个位置的所有通道上做最大池化和平均池化,得到两个feature map,再对这两个feature map进行7x7 Conv,再使BN和sigmoid归一化。

局限性:CBAM是通过对每个位置的多个通道取最大值和平均值来作为加权系数,因此这种加权只考虑了局部范围的信息。

参考:CVPR2021|| Coordinate Attention注意力机制_位置注意力机制-CSDN博客

相关推荐
西安栈上月明软件科技1 分钟前
从业务黑话到本体图谱:OAG本体建模五步法(西安老系统AI化改造实战)
数据库·人工智能·架构
带鱼吃猫11 分钟前
LangGraph入门:搭建智能快递配送系统AI工作流
人工智能·langchain
sjh75242296913 分钟前
RNN 是个啥?一个“边读边记小本本”的神经网络
人工智能
SEO_juper26 分钟前
Java 并发编程实战:从线程基础到高并发架构
运维·人工智能·爬虫·chatgpt·seo
dehuisun28 分钟前
第 04 篇:主流向量数据库选型决策(Milvus/Qdrant/pgvector/ 金仓 /openGauss)
人工智能
码农学院36 分钟前
企业官网GEO实战:用 Organization 与 Person Schema 构建作者实体,让 AI 引擎把内容归到可信来源
人工智能·geo·ai优化aio
冬奇Lab43 分钟前
DeepSeek Harness 系列(08):多 Agent 协作——Subagent 与 Agent Teams
人工智能
xiaoduo AI1 小时前
电商用智能客服机器人后,7×24 接待是怎么跑起来的
人工智能·智能客服·电商·ai客服·智能客服机器人
2601_954811821 小时前
人工智能教学设备云桌面集控:GPU算力共享与教学环境隔离方案 — 架构
人工智能
Csvn1 小时前
第 23 章 性能、成本与部署
人工智能·aigc·agent