原文:
HCFSL-NAS
https://github.com/xh- captain/HCFSL-NAS
一、概述
本文提出一种新型的基于神经网络架构搜索的跨域HSI分类模型(HCFSL-NAS)。具体来说是三种新的策略。①针对HSIC (Hhyperspectral Image Classification, 高光谱图像分类)中的FSL(Few-shot learning)提出一种基于NAS的嵌入特征提取方法(搜索空间包含一组具有通道注意的多尺度卷积)。②采用多源学习框架来聚合丰富的同谱异物和同物异谱数据,使得模型能以较少的样本对高光谱图像进行分类。③对交叉熵损失和自适应稀疏损失进行联合优化,以最大化类间距离和最小化类内距离。
HSIC中的FSL方法通常可分两类:①基于模型的方法;②基于域的方法。其中基于模型的方法常见的是设计一个特征嵌入模块将所有域中的数据映射到一个嵌入空间。通过结合NAS的自动模型搜索能力,本文得以设计了一个高效的特征嵌入模块。
二、方法

图1. HCFSL-NAS整体结构
如图1所示,HCFSL-NAS主要由三个部分组成:用于嵌入特征抽取器的NAS 、在多源域和目标域中的训练 、在目标与中的测试 。在FSL过程中,源域和目标与被划分为支持集S 和查询集Q。
2.1用于构造嵌入特征抽取器的NAS
2.1.1搜索空间

图2. 嵌入特征搜索器的NAS搜索空间
2.1.2搜索策略
基于DARTS的搜索范式进行,使用模型结构搜索+权重训练双层交替进行。训练过程如图3所示,度量损失函数和
将在后续章节介绍。

图3. HCFSL-NAS的结构搜索
2.2在多源域和目标与中的FSL
在HCFSL-NAS中,多源域中的每个数据集记作,每个数据集有
个类别。在每个源数据集中,我们从每个源数据集中随机选择
个类,每个类抽取
个样本形成支持集S 。同时,从同样的
个类中随机抽取
个样本形成查询集Q(与支持集S互斥)。
2.2.1度量损失函数
针对HSI中的同物异谱和同谱异物问题,本文提出了一种融合损失函数,该损失函数基于CE损失 和自适应稀疏损失(SP),增强了类间距离,缩小了类内距离。对于单个样本,基于点状的CE损失可以对单个样本进行精准的分类训练;对于分组样本,基于成对的SP损失可以对其差异进行建模,以存进类别间的差异。损失函数的公式如下:
(1)
根据中的
和
,式(1)可以被拆分成下面两个式子:
(2)
(3)
(4)