基于多维协同注意力和特征融合的小目标检测方法

原文:A small object detection method based on multidimensional collaborative attention and feature fusion

原文链接:https://doi.org/10.1117/12.3092531

摘要

为了解决像素尺度小和特征信息少而导致小目标检测困难的问题,本文提出了一种基于多维协同注意力和特征融合的小目标检测方法。首先,提出了多尺度特征融合模块,通过融合目标的细节信息与语义信息,为小目标检测提供更精确的特征表示。进而,提出了多维协同注意力模块,通过捕捉通道、高度和宽度之间特征的相互作用,能够更好地引导模型捕捉小目标的细节信息和上下文信息。最后,提出了层级特征融合模块,将骨干网络提取的特征与多维协同注意力特征进行逐层融合,强化了特征图中的目标关键信息,进一步增强模型对小目标的检测能力。在VisDrone-DET2019和HIT-UAV数据集上的实验结果表明,本文方法在mAP50指标上分别达到了54.8%和80.8%,与基线相比,mAP50指标提高了4.5%和5.2%。

本文方法

为了提高小物体检测的性能,本文提出了一种基于多维协作注意力和特征融合的小物体检测方法,如下图所示。首先,主干网络是在YOLOv12主干的基础上构建的,它被分为五个阶段,从中提取的特征图表示为集合{P1, P2, P3, P4, P5}。其次,在颈部结构中,利用多尺度特征融合模块对特征进行上采样(U)或下采样(D)操作,同时使特征匹配P3的维度。然后,通过拼接将这些特征融合。随后,多维协作注意力充分提取通道、高度和宽度三个维度之间的相关特征。通过对多维协作注意力的输出特征进行上采样或下采样,生成三尺度特征,并在层级特征融合中将每个尺度的特征与集合{P2, P3, P4}中的特定特征拼接,以生成语义特征{N2, N3, N4},分别对应小尺度、中尺度和大尺度的检测。最后,采用YOLOv12的检测头对图像中的小物体进行检测。

多维协同注意力机制

多维协同注意力采用三分支架构,使模型能够以低计算量学习三个维度(通道、高度和宽度)的注意力权重,如下图所示。首先,全局信息聚合将深度特征X分解为多个通道组,并为每个组分别计算通道注意力。随后,全局信息聚合模块生成的特征被转换以形成三个并行分支。前两个分支用于捕捉沿空间维度W和H的特征相互依赖关系,而最后一个分支主要用于捕捉通道C之间的交互。最后,对每个分支分别应用挤压与激励变换,并将这些分支的特征融合在一起。

实验

将本文方法与YOLOv5、YOLOv8和YOLOv10相比,本文方法在检测小目标时表现更为出色,成功检测出了更多的小目标,有效地改善了小目标漏检的情况。

相关推荐
私人珍藏库2 小时前
[Android] PeakFinder AR v4.8.89 (山峰全景识别+增强现实山峰查看器)
android·人工智能·智能手机·ar·工具·软件
CS创新实验室3 小时前
算法、齿轮与硅基大脑:数值计算发展简史
人工智能·算法·数值计算
能有时光3 小时前
PyTorch KernelAgent 源码解读 ---(4)--- ExtractorAgent
人工智能·pytorch·python
fthux3 小时前
GitZip Pro 源码解析:一个 GitHub 文件/文件夹下载扩展是如何工作的(一)整体架构与扩展入口
人工智能·ai·开源·github·open source
aqi004 小时前
15天学会AI应用开发(十七)使用LangGraph实现会话记忆功能
人工智能·python·大模型·ai编程·ai应用
xixixi777774 小时前
三大 AI 安全里程碑:Akamai 高危风险预警、智能体水印强制落地、PQC 量子安全全产业链统一
大数据·人工智能·安全·ai·大模型·智能体·政策
AI小码5 小时前
LLM 应用的缓存工程:当每次 API 调用都在燃烧成本
java·人工智能·spring·计算机·llm·编程·api
code 小楊5 小时前
AI函数调用:Function Calling从理论到实战全解析
人工智能
delishcomcn5 小时前
智切未来:AI算法如何重塑不干胶标签分切机的精度与效率边界
人工智能·神经网络·计算机视觉
观远数据5 小时前
ChatBI选型对比:从意图识别到SQL修复,六个维度打分决定是否值得投产
数据库·人工智能·sql