基于噪声干扰启发的空间-光谱神经架构搜索HSI分类方法

本发明涉及遥感图像分类领域，具体涉及一种基于噪声干扰启发的空间-光谱神经架构搜索hsi分类方法。

背景技术：

1、高光谱图像(hyperspectral image，hsi)同时包含不同物体的高空间分辨率和连续的光谱波段，具备“图谱合一”的独特特点。在遥感领域，成像光谱仪所获取的地物连续光谱能全面地反映地物所固有的光谱特性以及其间的细节差异性，从而大大提高了遥感图像分类的精细程度和准确性。基于以上特点，高光谱分类技术被广泛的应用于军事侦察、矿物勘定、城市建设等领域。

2、hsi固有的“同谱异质”和“同质异谱”特性，很大程度上影响了其分类的准确率。同时，在各领域对hsi图像处理任务上对分类精度有着较高的要求。目前，hsi分类方法主要是基于深度学习的分类方法。其中，卷积神经网络(convolution neural network，cnn)模型可以端到端的提取hsi丰富的空间-光谱信息，为高光谱信息提供了一种鲁棒可靠的特征提取机制。然而，随着模型结构的加深，手工设计神经网络由于其结构复杂、参数量大的原因，需要消耗大量时间和资源。与此同时，由于不同hsi数据集在频带数、光谱范围和空间分辨率上存在显著差异，适合不同hsi数据集的最优网络结构也存在不同。因此设计一个适用于各种hsi数据集的通用分类模型非常具有挑战性。

3、神经架构搜索(neural architecture search，nas)的目标是将设计最优网络模型的过程实现自动化，也就是从预定义的搜索空间中选择并且组合不同的候选操作，自动化实现高性能的神经网络结构的构建。darts(differentiable architecture search，darts)引入了连续松弛化的概念，实现了对搜索空间的可微分优化，在一个surpernet上完成了整个模型的搜索，避免了反复训练多个模型的问题，大幅度提高了nas的搜索效率。

技术实现思路

1、本发明所要解决的技术在于解决如何构建hsi分类的高效率的搜索空间、nas所存在的性能崩溃问题、分类准确率较低、少数类别样本误分类的技术问题。

2、本发明是采用以下技术方案解决上述技术问题的：基于噪声干扰启发的空间-光谱神经架构搜索hsi分类方法包括：

3、步骤a、样本提取，根据一定比例从hsi数据中随机选取像素点作为训练集和验证集。训练集分为两部分，分别用于搜索阶段和训练阶段，其余样本保留为测试集；

4、步骤b、构建模块化搜索空间、noisy-darts搜索策略以及性能评估策略；

5、步骤c、在单元中设置多个中间节点作为中间特征提取器，由搜索策略指导对surpernet的训练。根据性能评估结果联合优化搜索策略，并继续指导生成新的网络结构。

6、步骤d、根据步骤c中的性能评估结果，导出最终架构。选取验证精度最高的surpernet模型的权值来推导最终的子网络。根据搜索模型的权重，确定节点间的最优操作并在每一层确定单元格内部的拓扑结构。

7、步骤e、对搜索出的最优架构进行训练，选用标签平滑损失和多项式展开损失函数作为最优架构的损失函数，根据目标任务和数据集调整不同多项式基的重要性。

8、本发明首先考虑到不同hsi数据集样本分布的差异性，基于轻量级卷积块和空间-光谱注意力模块构建了一个新的高效模块化搜索空间来提高深层空间-光谱特征的表征能力，以适应不同数据集样本分布的特点，进而提高hsi的分类准确率；其次，考虑到基于梯度下降的nas方法的搜索效率和nas存在的不公平竞争问题，本发明采用了noisy-darts作为主要策略实现高效的搜索过程，并通过向跳跃连接加入噪声干扰以缓解搜索过程中的不公平竞争问题；然后，针对hsi数据集少数类别样本的误分类问题，本发明集成标签平滑损失函数和多项式展开损失函数的融合损失函数作为性能评估策略，通过多项式系数加权增加少数类别的损失权重，从而提高模型对少数类别样本的分类能力。最后，为了更好的捕获全局上下文信息，本文采用了mlp进行最终的分类。

9、在更具体的技术方案中，所述模块化搜索空间中使用在这个搜索空间中使用一个cell单元作为基本构建块，其可以看作是一个有向无环图，图中的节点(node)表示网络中的层，而边(edge)表示可能的操作(如卷积、池化等)。包含了空间-光谱注意卷积算子、跳跃连接、池化操作；所述空间-光谱注意卷积算子在深度聚焦感受野的同时，保持卷积的有效性，以准确提取拥有高判别性的空间-光谱特征，并通过在高维空间中应用深度可分卷积，有效地降低了计算复杂度，实现了高效、准确的特征学习。所述跳跃连接用于有效防止梯度消失。所述池化操作用于过滤冗余信息，增加模型的非线性。在模块化搜索空间中，包含了能够由神经架构搜索方法生成的每一个网络架构。

10、在更具体的技术方案中，所述noisy-darts搜索策略向跳跃连接注入服从分布的高斯噪声抑制跳跃连接的竞争优势。其中，μ和σ为中间变量。为了使得搜索过程可微分，nosiy-darts将搜索空间连续松弛化，将每个边视为所有候选操作的混合(通过softmax权值叠加)，将网络架构的选择变为优化混合概率的问题。同时，对于搜索过程中的不公平竞争带来的性能崩溃问题，noisy-darts通过对跳跃连接加入高斯噪声抑制跳跃连接的竞争优势，为搜索过程创建了一个公平竞争的环境。

11、在更具体的技术方案中，所述性能评估策略结合标签平滑损失和多项式展开损失函数的融合损失函数通过泰勒展开将分类损失函数分解为一系列加权多项式基，使得损失函数可以针对不同的任务和数据集进行更灵活的定制和调整。

12、在更具体的技术方案中，所述搜索阶段的联合优化是nosiy-darts同时优化两个目标，分别为是小化网络在训练集上的损失(即架构无关的网络参数)和最大化所选操作的混合概率(即架构搜索任务)，联合优化过程为：

13、

14、

15、其中，ltra和lval分别表示训练损失和验证损失；

16、再更具体的技术方案中，所述导出最终架构由搜索策略根据每个边上操作的混合概率选择概率最大的操作作为最终的网络架构。noisy-darts会使用梯度下降等优化算法来更新网络参数(包括权重和偏置)以及操作权重。随着训练的进行，性能较好的候选操作会逐渐获得更高的权重，而那些性能较差的候选操作则会逐渐被淘汰。最终选定由性能最好的候选操作组成最终的网络架构。

17、有益效果：

18、本发明基于噪声干扰启发的空间-光谱神经架构搜索hsi分类方法涉及遥感图像分类领域。不同的hsi数据集在空间分辨率、光谱波段方面具有显著的不同。因此，没有一个单一的通用模型适用于所有的情况。本发明核心思想是通过神经架构搜索为不同数据集自动设计网络，有效避免了人工设计带来的时间成本消耗。本发明在模块化搜索空间内设计了一系列空间-光谱卷积操作，使模型能够高效提取hsi丰富的信息和具备高精度的分类能力。本发明在搜索策略上采用nosiy-darts，在实现高效搜索的同时缓解了性能崩溃问题。本发明在搜索过程中设计了由标签平滑损失和多项式展开损失函数集成而成的融合损失函数，以减少对少数类别样本的误分类。