MHSSMamba:高光谱图像分类的多头空间光谱Mamba

Multi-head Spatial-Spectral Mamba for Hyperspectral Image Classification

2408.01224 (arxiv.org)

MHSSMamba提出了一种名为多头空间光谱Mamba的方法,用于高光谱图像分类。该方法通过增强光谱标记和应用多头自注意力机制来捕获复杂的光谱带与空间位置之间的关系,从而在高光谱图像分类任务中表现出色。相较于传统的Mamba模型,该方法不仅提升了计算效率并捕获了长距离依赖关系,还能处理HSI中丰富的光谱信息以及高维和序列数据。此外,MHSSMamba还保留了跨光谱带的上下文信息,并有效地管理长距离依赖关系和HSI数据的序列性。在帕维亚大学、休斯顿大学、萨利纳斯和武汉龙口数据集上进行实验验证时,MHSSMamba展现出优秀的分类准确率分别为97.62%、96.92%、96.85% 和 99.49%。

核心方法:Multi-Head Self-attention + Mamba

个人评价:感觉怪怪的,Mamba本身就是解决self-attention的问题,为什么要两个串联使用?

相关推荐
朝朝辞暮i21 分钟前
VLA 系统学习第 4 课:一个 Batch 进入神经网络后,模型到底是怎么“学会”的?
人工智能·python·神经网络·vla
IT古董29 分钟前
《FDE前沿部署工程师实战教程》33 - Enterprise AI Observability:从Agent Trace到全链路智能运维
数据库·人工智能
xsd2024111844 分钟前
地网腐蚀AI识别算法全解析:从锈蚀图像到地下腐蚀快速定位
人工智能
oooost1 小时前
pytorch学习笔记2(transformer)
人工智能·机器学习
云杂项1 小时前
Exploring Model Inversion Attacks in the Black-box Setting(个人笔记)
人工智能
还卿一钵无情泪2 小时前
Unsloth 微调 构建自己的大模型 没有GPU也能微调
linux·开发语言·人工智能·python·大模型·nlp·unsloth
冬奇Lab2 小时前
LLM 驱动的自动化测试系列(06):移动端自动化(二)——DroidRun/Mobilerun 的角色级模型拆分
人工智能·测试
冬奇Lab3 小时前
一天一个开源项目(第230篇):HandRaw-Style —— 把 327 种手绘风格、165 种排版、36 种配色编号化,让 AI 画图不再每次都飘
人工智能·开源·资讯
罗西的思考3 小时前
从陶哲轩的访谈看:AI 数学研究方法论 & 给其它行业的启示
人工智能
学...3 小时前
软件学报 2023 论文《面向复杂约束优化问题的进化算法综述》阅读笔记
人工智能·ga·cmop