MHSSMamba:高光谱图像分类的多头空间光谱Mamba

Multi-head Spatial-Spectral Mamba for Hyperspectral Image Classification

2408.01224 (arxiv.org)

MHSSMamba提出了一种名为多头空间光谱Mamba的方法,用于高光谱图像分类。该方法通过增强光谱标记和应用多头自注意力机制来捕获复杂的光谱带与空间位置之间的关系,从而在高光谱图像分类任务中表现出色。相较于传统的Mamba模型,该方法不仅提升了计算效率并捕获了长距离依赖关系,还能处理HSI中丰富的光谱信息以及高维和序列数据。此外,MHSSMamba还保留了跨光谱带的上下文信息,并有效地管理长距离依赖关系和HSI数据的序列性。在帕维亚大学、休斯顿大学、萨利纳斯和武汉龙口数据集上进行实验验证时,MHSSMamba展现出优秀的分类准确率分别为97.62%、96.92%、96.85% 和 99.49%。

核心方法:Multi-Head Self-attention + Mamba

个人评价:感觉怪怪的,Mamba本身就是解决self-attention的问题,为什么要两个串联使用?

相关推荐
墨绿色的摆渡人2 分钟前
用 pytorch 从零开始创建大语言模型(三):编码注意力机制
人工智能·pytorch·语言模型
编程在手天下我有17 分钟前
计算机视觉(CV)技术的优势和挑战
计算机视觉
zm-v-1593043398619 分钟前
ChatGPT 与 DeepSeek:学术科研的智能 “双引擎”
人工智能·chatgpt
果冻人工智能22 分钟前
美国狂奔,中国稳走,AI赛道上的龟兔之争?
人工智能
果冻人工智能32 分钟前
再谈AI与程序员: AI 写的代码越来越多,那我们还需要开发者吗?
人工智能
大脑探路者36 分钟前
【PyTorch】继承 nn.Module 创建简单神经网络
人工智能·pytorch·神经网络
无代码Dev1 小时前
如何使用AI去水印(ChatGPT去除图片水印)
人工智能·ai·ai-native
达柳斯·绍达华·宁1 小时前
自动驾驶04:点云预处理03
人工智能·机器学习·自动驾驶
wgc2k1 小时前
吴恩达深度学习复盘(4)神经网络的前向传播
人工智能·深度学习