分类模型的训练方法、高光谱图像分类方法、装置及设备

本发明涉及遥感图像处理，具体而言，涉及一种分类模型的训练方法、高光谱图像分类方法、装置及设备。

背景技术：

1、高光谱数据是一种包含数百个或数千个连续波长范围的光谱信息的数据。这种数据通常用于地球观测、遥感和成像领域，以获取关于地表、大气和海洋等对象的详细信息。高光谱数据可以提供比常规彩色图像更丰富的信息，因为它们可以捕捉到更多的光谱特征，从而更准确地识别和分析不同的地物和环境特征，在农业、环境监测、地质勘探、城市规划等领域有广泛的应用。

2、在采用高光谱图像进行分类完成指定任务时，例如，通过高光谱图像进行土地使用分类、农作物健康监测、矿区分类、土壤植被分类以及海底底质分类等任务，一般需要采用高光谱图像样本数据对分类模型进行训练，以便使用训练好的分类模型进行分类任务，但是，由于高光谱图像样本数据采集困难、数据处理复杂、数据标注困难和数据保密性要求高等因素，高光谱图像样本数据极其稀少，导致分类模型的训练效果较差，进而导致分类模型对高光谱图像的分类精度低。

技术实现思路

1、本发明解决的问题是如何提高小样本情况下分类模型对高光谱图像的分类精度。

2、为解决上述问题，第一方面，本发明提供了一种分类模型的训练方法，包括：

3、对处理后的高光谱图像顺次应用空间自注意和光谱自注意，生成空间光谱特征数据令牌；

4、对所述空间光谱特征数据令牌分别进行重构和对比多视图学习，生成重构损失和对比损失；

5、基于所述重构损失和所述对比损失，训练分类模型，得到预训练模型；

6、基于所述预训练模型，根据所述高光谱图像和对应标签，生成交叉熵损失，并根据所述交叉熵损失，微调所述预训练模型，得到最终分类模型。

7、可选地，所述对所述空间光谱特征数据令牌分别进行重构和对比多视图学习，生成重构损失和对比损失，包括：

8、对所述空间光谱特征数据令牌中的掩码令牌进行重构，生成重构图像；

9、根据所述重构图像和所述高光谱图像，采用均方差方法，生成所述重构损失；

10、根据所述空间光谱特征数据令牌，采用归一化的温度缩放交叉熵进行对比多视图学习，生成所述对比损失。

11、可选地，所述对处理后的高光谱图像顺次应用空间自注意和光谱自注意，生成空间光谱特征数据令牌，包括：

12、采用所述分类模型的空间光谱编码器对所述高光谱图像顺次应用空间自注意和光谱自注意，生成所述空间光谱特征数据令牌，其中，所述空间光谱编码器包括依次串联的至少一个空间编码块和至少一个光谱编码块，且所述空间编码块和所述光谱编码块均包括多头自注意机制层、层归一化层以及多层感知机。

13、可选地，在所述对处理后的高光谱图像顺次应用空间自注意和光谱自注意，生成空间光谱特征数据令牌之前，还包括：

14、获取原始高光谱图像；

15、预处理所述原始高光谱图像，生成高光谱样本；

16、对所述高光谱样本进行空间光谱分块和嵌入，生成嵌入空间光谱数据令牌；

17、对所述嵌入空间光谱数据令牌进行随机掩码和空谱位置编码，生成所述高光谱图像。

18、可选地，所述预处理所述原始高光谱图像，生成高光谱样本，包括：

19、对所述原始高光谱图像进行边缘填充和归一化处理，生成高光谱填充数据；

20、采用数据增强联合策略对所述高光谱填充数据进行数据增强，生成高光谱增强视图；

21、对所述高光谱增强视图进行分割和压缩，生成所述高光谱样本。

22、可选地，所述对所述嵌入空间光谱数据令牌进行随机掩码和空谱位置编码，生成所述高光谱图像，包括：

23、对所述嵌入空间光谱数据令牌进行随机掩码，生成处理数据；

24、将所述处理数据划分为空间编码数据块和光谱编码数据块；

25、建立所述空间编码数据块的二维索引，并根据所述二维索引的正余弦位置编码，生成空间位置嵌入；

26、建立所述光谱编码数据块的一维索引，并根据所述一维索引的正余弦位置编码，生成光谱位置嵌入；

27、基于所述处理数据，拼接所述空间位置嵌入和所述光谱位置嵌入，生成所述高光谱图像。

28、可选地，所述基于所述预训练模型，根据所述高光谱图像和对应标签，生成交叉熵损失，包括：

29、将所述高光谱图像和所述对应标签输入至所述预训练模型中，生成所述交叉熵损失，其中，所述预训练模型包括顺次连接的预处理模块、分块嵌入模块、所述空间光谱编码器、分类器以及交叉熵损失模块。

30、第二方面，本发明提供了一种高光谱图像分类方法，包括：

31、获取目标区域的高光谱图像；

32、采用如上所述的分类模型的训练方法得到的最终分类模型对所述高光谱图像进行分类，得到分类结果。

33、第三方面，本发明提供了一种高光谱图像分类装置，包括：

34、获取模块，用于获取目标区域的高光谱图像；

35、分类模块，用于采用如上所述的分类模型的训练方法得到的最终分类模型对所述高光谱图像进行分类，得到分类结果。

36、第四方面，本发明提供了一种电子设备，包括存储器和处理器；

37、所述存储器，用于存储计算机程序；

38、所述处理器，用于当执行所述计算机程序时，实现如第一方面所述的分类模型的训练方法或第二方面所述的高光谱图像分类方法。

39、第五方面，本发明提供了一种计算机可读存储介质，所述存储介质上存储有计算机程序，当所述计算机程序被处理器执行时，实现如第一方面所述的分类模型的训练方法或如第二方面所述的高光谱图像分类方法。

40、本发明的分类模型的训练方法及设备的有益效果是：

41、对处理后的高光谱图像顺次应用空间自注意和光谱自注意，可以使分类模型关注高光谱图像中不同位置之间的关系和不同维度之间的关系，帮助模型更好地捕捉空谱信息并探索维度相关性，得到更具有表达能力的空间光谱特征数据令牌，然后通过对空间光谱特征数据令牌进行掩码重构和对比多视图学习，得到重构损失和对比损失，以实现掩码重构和对比多视图学习的自监督联合学习训练，使分类模型更好地理解数据之间的关联性、相似性和差异性，得到预训练模型，再通过预训练模型处理高光谱图像和对应标签得到的交叉熵损失，根据交叉熵损失进行有监督学习训练，训练预训练模型，极大地提高了预训练模型的分类精度，得到最终分类模型，且通过本发明的掩码重构和对比多视图学习的自监督联合学习训练以及有监督学习训练，不仅需要的样本数据更少，模型训练效果也更佳，极大地提高了分类模型的精度。

42、本发明的高光谱图像分类方法、装置及设备的有益效果是：

43、通过已经训练好的最终分类模型对高光谱图像进行分类，可以得到高精度的分类结果。

技术特征：

1.一种分类模型的训练方法，其特征在于，包括：

2.根据权利要求1所述的分类模型的训练方法，其特征在于，所述对所述空间光谱特征数据令牌分别进行重构和对比多视图学习，生成重构损失和对比损失，包括：

3.根据权利要求1所述的分类模型的训练方法，其特征在于，所述对处理后的高光谱图像顺次应用空间自注意和光谱自注意，生成空间光谱特征数据令牌，包括：

4.根据权利要求1所述的分类模型的训练方法，其特征在于，在所述对处理后的高光谱图像顺次应用空间自注意和光谱自注意，生成空间光谱特征数据令牌之前，还包括：

5.根据权利要求4所述的分类模型的训练方法，其特征在于，所述预处理所述原始高光谱图像，生成高光谱样本，包括：

6.根据权利要求4所述的分类模型的训练方法，其特征在于，所述对所述嵌入空间光谱数据令牌进行随机掩码和空谱位置编码，生成所述高光谱图像，包括：

7.根据权利要求1所述的分类模型的训练方法，其特征在于，所述基于所述预训练模型，根据所述高光谱图像和对应标签，生成交叉熵损失，包括：

8.一种高光谱图像分类方法，其特征在于，包括：

9.一种高光谱图像分类装置，其特征在于，包括：

10.一种电子设备，其特征在于，包括存储器和处理器；

技术总结本发明提供了一种分类模型的训练方法、高光谱图像分类方法、装置及设备，涉及遥感图像处理技术领域，分类模型的训练方法包括对处理后的高光谱图像顺次应用空间自注意和光谱自注意，生成空间光谱特征数据令牌；对所述空间光谱特征数据令牌分别进行重构和对比多视图学习，生成重构损失和对比损失；基于所述重构损失和所述对比损失，训练分类模型，得到预训练模型；基于所述预训练模型，根据所述高光谱图像和对应标签，生成交叉熵损失，并根据所述交叉熵损失，微调所述预训练模型，得到最终分类模型。本发明不仅不需要大量的样本数据，还会更好的训练模型，极大地提高分类模型的精度。技术研发人员：李显巨,胡翰,刘祯慧,邹崇尧,范小洁,常屹冉,丁慧君,陈刚受保护的技术使用者：中国地质大学（武汉）技术研发日：技术公布日：2024/8/27