基于信号时频一致性预训练的小样本识别信号类型的方法及系统

本发明涉及基于信号时频一致性预训练的小样本识别信号类型的方法及系统，属于深度学习、信号处理。

背景技术：

1、近几十年来，得益于深度学习的迅猛发展，深度神经网络强大的特征提取能力及普遍应用推动了互联网安全问题的有效解决，其中电磁信号相关的下游任务都能够通过这样一种新颖的方法得到高效完成。然而，该方法依赖大规模目标域物联网设备电磁信号数据用于深度模型训练，需要花费大量人力与财力采集、注释、管理大规模目标域物联网设备电磁信号数据集，故实现小样本场景下的预训练，使得模型基于无标签数据就能够获得良好的特征提取能力具有非常大的使用价值。

2、此前，连续时间序列上的小样本预训练大多基于其时域特征来构建模型预训练架构，然而在数据无标签场景下，此类方法所能达到的效果非常有限。利用连续时间序列时域和频域特征相结合的一种基于信号时频一致性的方法来构建适用于小样本场景下的模型预训练架构能够有效提高模型对于深度特征的提取能力，再通过目标域小样本有标签数据集进行微调，进而实现相关下游任务的解决。该方法可相对高效地提高模型提取信号内在深度特征地能力及模型性能，使其能够达到有效解决相关下游任务地目的。

技术实现思路

1、本发明的目的在于提供基于信号时频一致性预训练的小样本识别信号类型的方法及系统，以解决了小样本场景下无法有效、准确地提取信号内在深度特征来解决下游任务的问题。

2、基于信号时频一致性预训练的小样本识别信号类型的方法，其特征在于，包括：

3、采集样本信号；

4、将样本信号输入预先训练好的联合模型中，输出识别的信号类型；

5、其中，所述联合模型包括目标域深度特征提取模型和特征识别模型，所述联合模型是基于预先训练好的时频一致性深度特征提取模型搭建的目标域初始化深度特征提取模型以及初始化特征识别模型，并利用目标域小样本有标签信号数据集以有效完成下游任务为目标对所述目标域初始化深度特征提取模型以及初始化特征识别模型进行训练得到的。

6、进一步地，所述时频一致性深度特征提取模型包括：

7、数据增强模块，用于获取增强数据；

8、时域特征提取，用于获取信号时域深度特征；

9、频域特征提取，用于获取信号频域深度特征。

10、进一步地，所述时域特征提取和频域特征提取包括相同的依次连接的9层复值卷积操作、1层展平操作、2层全连接操作、1层批归一化操作、1层随机失活操作以及1层全连接操作。

11、进一步地，所述时频一致性深度特征提取模利用源域大样本无标签信号数据集以减小时域深度特征和频域深度特征差异为目标训练得到的。

12、进一步地，所述时频一致性深度特征提取模型的训练包括：

13、对源域大样本无标签信号数据集进行预处理，得到时域增强数据和频域增强数据其中，所述源域大样本无标签信号数据集由若干组不同源域信号发生器件产生的原始时域信号xt构成；

14、将原始时域信号xt和时域增强数据输入时域编码器得到时域编码特征ht和时域增强编码特征将频谱数据xf和频域增强数据输入频域编码器得到频域编码特征hf和频域增强编码特征

15、将时域编码特征ht、时域增强编码特征以及频域编码特征hf、时域增强编码特征投影至联合时频空间，得到时域联合特征zt、时域增强联合特征频域联合特征zf和频域增强联合特征

16、采用归一化温标交叉熵函数作为时频一致性深度特征提取模型的目标函数，根据获得的时域编码特征ht、时域增强编码特征频域编码特征hf、时域增强编码特征以及时域联合特征zt、时域增强联合特征频域联合特征zf和频域增强联合特征分别计算时域对比损失、频域对比损失以及时频空间对比损失，得到目标函数总损失值：

17、

18、其中，为总损失值，为联合时频空间损失值，为时域编码空间损失值，为频域编码空间损失值，λ为权重比例因子；

19、将目标函数总损失值视为时频一致性深度特征提取模型的第l层误差，计算第l层误差对第l层参数ωl的导数实现第l层参数ωl的更新：

20、

21、其中为总损失值，ωl为时频一致性深度特征提取模型第l层参数，为时频一致性总损失值对深度特征提取模型第l层参数的求导值，μ为更新步长；

22、计算第l层误差对第l层输入数据的导数，将其视为第l层传递至第l-1层的误差，如此反向传播，直至更新至第1层，实现模型的参数更新，得到训练好的时频一致性深度特征提取模型。

23、进一步地，所述时域对比损失的计算公式为：

24、

25、所述频域对比损失的计算公式为：

26、

27、所述时频空间对比损失的计算公式为：

28、

29、

30、

31、上述公式中，为时域编码空间损失值，为频域编码空间损失值，为联合时频空间损失值，d(·)为对比损失计算函数，为时域编码特征，为时域增强编码特征，为频域编码特征，为频域增强编码特征,为时域联合特征，为频域联合特征，为时域增强联合特征，为频域增强联合特征，为源域大样本无标签信号数据集，xj为中第j个样本，为与的对比损失值，为与的对比损失值，为与的对比损失值，为与的对比损失值，spair为增强数据对比损失集合，δ为偏移参数，sim(u,v)＝utv/‖u‖‖v‖表示余弦相似度计算，τ为温度系数，表示一个指标函数，当i＝j时值为0否则为1。

32、进一步地，所述对源域大样本无标签信号数据集进行预处理，得到时域增强数据和频域增强数据包括：

33、对若干组不同源域信号发生器件产生的原始时域信号xt做傅里叶变换，得到对应的频谱数据xf，将原始时域信号xt和对应频谱数据xf输入各自的数据增强模块分别得到时域增强数据和频域增强数据

34、进一步地，所述联合模型的训练包括：

35、将不同目标域信号发生器件产生的原始时域信号xt输入目标域深度初始化特征提取模型，得到其时域深度特征以及频域深度特征

36、将时域深度特征与频域深度特征在最后一个数据维度进行拼接得到时频空间联合深度特征zi；

37、将时频空间联合深度特征zi输入初始特征识别模型，得到最终提取出的识别特征si，以信号分类为例使用交叉熵损失函数对初始联合模型的目标函数进行微调：

38、

39、其中，c为对应不同信号的类别数，yi为类别标签经过独热编码后得到的编码结果y＝{yi|i＝1,2,…,c}中的第i个码元，si为经过模型提取出的信号深度特征向量，最终得到损失值

40、将目标域不同信号发生器件产生的信号样本数据集输入微调后的初始联合模型所得目标函数损失值视为模型的第l层误差，计算第l层误差对第l层参数ωl的导数实现第l层参数ωl的更新：

41、

42、其中μ为更新步长；

43、计算第l层误差对第l层输入数据的导数，将其视为第l层传递至第l-1层的误差，如此反向传播，直至更新至第1层，实现模型的参数更新，得到训练完成的联合模型。

44、进一步地，所述将样本信号输入预先训练的联合模型，识别出信号类型包括：

45、将实际任务中采集的信号样本记为将输入训练好的集成学习联合模型，得到其内在深度特征s0；

46、由下式得到待评估信号类别的预测标签：

47、

48、第二方面：

49、基于信号时频一致性预训练的小样本识别信号类型的系统，包括：

50、信号采集模块，用于采集样本信号；

51、信号识别模块，用于将样本信号输入预先构建的目标域深度特征提取模型和特征识别模型，识别出信号类型；

52、其中，所述目标域深度特征提取模型和特征识别模型是基于时频一致性深度特征提取模型搭建的目标域初始化深度特征提取模型以及特征识别模型，并利用目标域小样本有标签信号数据集以有效完成下游任务为目标对所述目标域初始化深度特征提取模型以及特征识别模型进行训练得到的。

53、与现有技术相比，本发明所达到的有益效果：

54、本发明在小样本场景下无法有效、准确地提取信号内在深度特征来解决下游任务的问题，创造性地引入深度学习模型架构和时频一致性预训练加微调的训练范式，有效地实现小样本场景下对信号时频域内在深度特征进行提取，从而有效完成下游任务，具有相对较高的准确性、稳定性和鲁棒性。