深度学习知识点3-CBAM轻量的注意力模块

论文:(2018)包含空间注意力通道注意力 两部分1807.06521https://arxiv.org/pdf/1807.06521

**通道注意力:**对input feature maps每个feature map做全局平均池化和全局最大池化,得到两个1d向量,再经过conv,ReLU,1x1conv,sigmoid进行归一化后对input feature maps加权。

**空间注意力:**对feature map的每个位置的所有通道上做最大池化和平均池化,得到两个feature map,再对这两个feature map进行7x7 Conv,再使BN和sigmoid归一化。

局限性:CBAM是通过对每个位置的多个通道取最大值和平均值来作为加权系数,因此这种加权只考虑了局部范围的信息。

参考:CVPR2021|| Coordinate Attention注意力机制_位置注意力机制-CSDN博客

相关推荐
沉睡的无敌雄狮2 小时前
AI优化效果不可控?矩阵跃动数据驱动型龙虾机器人,实现搜索排名稳定提升
人工智能·矩阵·机器人
youyoulg2 小时前
opencode在Linux终端中无法复制文字的解决方法
linux·服务器·人工智能
2301_766558652 小时前
矩阵跃动国产AI搜索优化引擎实战:小陌GEO+龙虾机器人,多平台大模型占位技术拆解
人工智能·矩阵·机器人
技术人生黄勇2 小时前
Google 开源实战指南:21种AI智能体设计模式,覆盖从基础到安全的完整体系
人工智能·设计模式
猫咪老师2 小时前
RAG与GraphRAG介绍
人工智能·算法·llm
用户13598170676402 小时前
infllm_v2安装
人工智能
tangdou3690986553 小时前
图文并茂安装Claude Code 以及配置 Coding Plan 教程
前端·人工智能·后端
跨境猫小妹3 小时前
供应链交付不稳定跨境卖家如何建立备选供应商
大数据·人工智能·产品运营·跨境电商·营销策略
跨境海王哥3 小时前
Google Ads vs Meta Ads:2026广告流量本质差异与投放选择指南
人工智能
CHU7290353 小时前
让知识传递更顺畅:在线教学课堂APP的功能设计
前端·人工智能·小程序