基于成型-序列注意力和空间邻近特征选择的高光谱图像分类模型

本发明涉及高光谱图像分类，特别是涉及一种基于成型-序列注意力和空间邻近特征选择的高光谱图像分类模型。

背景技术：

1、高光谱图像具有数百个光谱波段，能收集并监测地球表面丰富的光谱和空间信息。这些有价值的信息促进了高光谱图像的广泛应用，包括环境观测、资源评估和城市发展监测。高光谱图像分类，作为高光谱图像在遥感领域的重要任务之一，在过去的几十年中，已经被大量研究人员关注。早期的分类方法主要集中在光谱特征上，然而，这些传统方法以浅层模型提取原始数据的特征，难以获得实质性的效果提升。因此，需要一种更有效的方法来对高光谱图像进行分类。

2、近年来，深度学习算法成功打破了传统特征提取技术的局限性。它可以自动从数据中提取层次特征，在计算机视觉和自然语言处理等领域都取得了重大进展。然而，由于高光谱图像中包含着丰富的空间和光谱特征以及较强的冗余性，利用深度神经网络训练稳健的高光谱图像分类模型仍然是一项困难的任务。

3、因此，传统的高光谱图像分类方式存在无法充分利用高光谱图像中丰富的光谱和空间信息、分类精度低的问题。

技术实现思路

1、基于此，为了解决上述技术问题，提供一种基于成型-序列注意力和空间邻近特征选择的高光谱图像分类模型，可以提高信息利用率，提高图像分类精度。

2、一种基于成型-序列注意力和空间邻近特征选择的高光谱图像分类模型，所述系统包括：空间子网络、光谱子网络、图像分类部分，其中：

3、所述空间子网络，包括二维卷积层、relu激活函数层、成型注意力模块、空间邻近特征选择模块；待分类高光谱图像输入后，通过主成分分析进行降维处理，将处理后的待分类高光谱图像像素为中心的空间块作为输入，通过所述二维卷积层、relu激活函数层、成型注意力模块、空间邻近特征选择模块，生成空间特征向量；

4、所述光谱子网络，包括一维卷积层、序列注意力模块；将处理后的待分类高光谱图像像素的光谱向量作为输入，通过所述一维卷积层、序列注意力模块，生成光谱特征向量；

5、所述图像分类部分包括全连接层，将所述空间特征向量、所述光谱特征向量输入至所述全连接层中进行分类，得到高光谱图像分类结果。

6、在其中一个实施例中，所述成型注意力模块包括第一卷积层、第一池化层、第一激活层、成型注意力块、第一损失函数层。

7、在其中一个实施例中，输入数据进入所述卷积层，在所述池化层中进行最大池化或者平均池化，经过层归一化后特征向量经线性变换为查询集、键集，在所述成型注意力块中进行特征校正，与前馈神经网络的输出进行主元素相加，实现上下文空间特征的聚合。

8、在其中一个实施例中，所述空间邻近特征选择模块包括邻近选择块、tanh-derivative激活函数。

9、在其中一个实施例中，使用minkowski距离分析所述处理后的待分类高光谱图像像素中，中心像素与相邻像素是否属于同一类别；通过所述tanh-derivative激活函数将属于同一类别的中心像素与相邻像素的相似性转换为空间权重。

10、在其中一个实施例中，所述序列注意力模块包括第二卷积层、第二池化层、第二激活层、序列注意力块、bn层、第二损失函数层。

11、在其中一个实施例中，输入所述处理后的待分类高光谱图像像素的光谱向量，通过所述第二卷积层处理后，经过批量归一化和所述第二激活层处理，生成光谱特征向量。

12、在其中一个实施例中，所述图像分类部分还包括dropout层、第三激活层。

13、在其中一个实施例中，将所述空间特征向量、所述光谱特征向量输入至所述全连接层，通过所述dropout层、第三激活层进行处理，得到高光谱图像分类结果。

14、上述基于成型-序列注意力和空间邻近特征选择的高光谱图像分类模型，通过成型注意力模块、空间邻近特征选择模块、序列注意力模块来筛选高光谱图像中的空间-光谱特征，并通过图像分类部分进行融合，以自适应地突出特征提取过程中的有价值信息并抑制无用信息，提高对高光谱图像中信息的利用率，从而提高图像分类精度。

技术特征：

1.一种基于成型-序列注意力和空间邻近特征选择的高光谱图像分类模型，其特征在于，所述模型包括：空间子网络、光谱子网络、图像分类部分，其中：

2.根据权利要求1所述的基于成型-序列注意力和空间邻近特征选择的高光谱图像分类模型，其特征在于，所述成型注意力模块包括第一卷积层、第一池化层、第一激活层、成型注意力块、第一损失函数层。

3.根据权利要求2所述的基于成型-序列注意力和空间邻近特征选择的高光谱图像分类模型，其特征在于，输入数据进入所述卷积层，在所述池化层中进行最大池化或者平均池化，经过层归一化后特征向量经线性变换为查询集、键集，在所述成型注意力块中进行特征校正，与前馈神经网络的输出进行主元素相加，实现上下文空间特征的聚合。

4.根据权利要求1所述的基于成型-序列注意力和空间邻近特征选择的高光谱图像分类模型，其特征在于，所述空间邻近特征选择模块包括邻近选择块、tanh-derivative激活函数。

5.根据权利要求4所述的基于成型-序列注意力和空间邻近特征选择的高光谱图像分类模型，其特征在于，使用minkowski距离分析所述处理后的待分类高光谱图像像素中，中心像素与相邻像素是否属于同一类别；通过所述tanh-derivative激活函数将属于同一类别的中心像素与相邻像素的相似性转换为空间权重。

6.根据权利要求1所述的基于成型-序列注意力和空间邻近特征选择的高光谱图像分类模型，其特征在于，所述序列注意力模块包括第二卷积层、第二池化层、第二激活层、序列注意力块、bn层、第二损失函数层。

7.根据权利要求6所述的基于成型-序列注意力和空间邻近特征选择的高光谱图像分类模型，其特征在于，输入所述处理后的待分类高光谱图像像素的光谱向量，通过所述第二卷积层处理后，经过批量归一化和所述第二激活层处理，生成光谱特征向量。

8.根据权利要求1所述的基于成型-序列注意力和空间邻近特征选择的高光谱图像分类模型，其特征在于，所述图像分类部分还包括dropout层、第三激活层。

9.根据权利要求8所述的基于成型-序列注意力和空间邻近特征选择的高光谱图像分类模型，其特征在于，将所述空间特征向量、所述光谱特征向量输入至所述全连接层，通过所述dropout层、第三激活层进行处理，得到高光谱图像分类结果。

技术总结本发明涉及一种基于成型‑序列注意力和空间邻近特征选择的高光谱图像分类模型。所述模型包括：空间子网络、光谱子网络、图像分类部分，空间子网络中包括成型注意力模块、空间邻近特征选择模块；通过空间子网络生成空间特征向量；光谱子网络中有序列注意力模块；通过光谱子网络生成光谱特征向量；将空间特征向量、光谱特征向量输入图像分类部分进行分类，得到高光谱图像分类结果。通过成型注意力模块、空间邻近特征选择模块、序列注意力模块来筛选高光谱图像中的空间‑光谱特征，并进行融合，以自适应地突出特征提取过程中的有价值信息并抑制无用信息，提高对高光谱图像中信息的利用率，从而提高图像分类精度。技术研发人员：王兆晖,李宁阳受保护的技术使用者：海南大学技术研发日：技术公布日：2024/9/2