基于长短时记忆网络的智能工厂入侵设备检测方法

本发明属于智能信号处理，具体而言，涉及利用长短时记忆网络对信号特征进行分类，可用于智能工厂中入侵设备的检出。

背景技术：

1、随着网络技术的发展和智能硬件制造成本的降低，智能制造设备如智能机械臂、网络摄像头、分布式自动控制器、人工智能质量检测设备等被广泛地应用于智能工厂中，以提高管理效率和生产质量、降低物料成本和人力开销。

2、然而，智能设备的引入也为传统制造企业带来了新的挑战。例如，被秘密放置在智能工厂中的入侵设备能够隐蔽地收集企业的机密数据，造成企业生产计划和技术的泄露；被员工意外带入生产场所的手机(此时被视为入侵设备)等设备，如不能被及时地检出，可能干扰产线上的智能制造设备，造成经济损失。因此，当前智能工厂对入侵设备的检测存在迫切的需求。

3、由于入侵设备主要通过收、发电磁波的方式对正常智能制造设备产生影响，针对入侵设备和正常智能制造设备的区分问题，其关键是区分两类设备所发射信号的特征。由于智能制造设备的生产厂家考虑到其设备的安全和知识产权因素，通常不会公布其生产的设备所发射的信号特征，故已有的方法主要采用人工智能技术，通过决策树、k均值等方法对信号特征进行分类，以达到检出入侵设备的目的。然而，随着技术对抗的发展，一些入侵设备逐渐开始采用长连接、小数据量的方式发射信号，避免短时间、大流量集中上传其采集到的信息，这使得其信号特征在短时间内与正常智能制造设备十分相似，已有方法难以检出此类设备。为了实现此类设备的检出，必须在一段时间内持续分析其信号特征，即采用有记忆性的检测方法。

4、综上所述，引入长短时记忆网络，能够解决当前智能工厂入侵设备检测方法遇到的主要难题。通过发展此项技术，能够有效地弥补传统方法存在的缺点，捕捉入侵设备的特征，实现智能工厂入侵设备的高效检测。

5、需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

技术实现思路

1、本发明的目的在于针对现有智能工厂非法入侵设备检测方法存在的问题，提出一种基于长短时记忆网络的智能工厂入侵设备检测方法。通过长短时记忆网络能够理解输入序列前后时间关系的特性，提取智能工厂中设备所发射信号的时间特征；进而，利用此时间特征，可以有效提高智能工厂入侵设备检测方法的正确率；最后，通过对入侵设备的特征进行聚类，能够识别智能工厂内的入侵设备数量。综上所述，本发明所提出的方法相较于现有的智能工厂入侵设备检测方法，其多个方面的性能都实现了提升，从而为智能工厂的安全运行提供了技术支撑。

2、本发明的目的是通过以下技术方案来实现的：一种基于长短时记忆网络的智能工厂入侵设备检测方法，包含以下步骤：

3、(1)信号的时序特征构建：该步骤在时间和特征两个维度上进行，时间维度包含从开始观测时间t＝1到结束观测时间t＝t的时间段，特征维度包含每个时间点所提取的若干不同特征；对于任一时间点t，由该时间点的采样信号所提取的特征表达为：

4、xi,t＝[xi,t,1,xi,t,2,…,xi,t,]]t

5、其中，i＝1,2,…,i表达设备的编号，在训练过程中作为数据样本的标签，i表达设备的总数，xi,t,n,n＝1,2,…,n表达在时间点t提取的编号为i的设备发射的射频信号的第n个特征；编号为i的设备在观测时间内发射的射频信号的总体特征表达为：

6、

7、(2)基于长短时记忆网络的信号语义空间建模：该步骤涉及基于长短时记忆网络的神经网络的正向传播及其训练；所述基于长短时记忆网络的神经网络的正向传播计算过程如下：

8、fi，t＝sigmoid(wf·cat(ri，t-1，xi,t))

9、pi,t＝sigmoid(wp·cat(ri，t-1，xi,t))

10、qi,t＝tanh(wq·cat(ri，t-1，xi,t))

11、si，t＝fi，t⊙si,t-1+pi，t⊙qi,t

12、oi,t＝sigmoid(wo·cat(ri，t-1，xi，t))

13、ri，t＝oi，t⊙tanh(si，t)

14、每次计算时，需由t＝1始，计算至t＝t止，即由fi，1开始计算，并最终得到ri，t；其中，除ri，t外，fi，t、pi,t、qi,t、si，t、oi,t、ri,t，t＝1,2，...，t表达计算步骤中的中间变量，wf、wp、wq、wo表达可训练参数，cat(·，·)表达将两个向量首尾相接的操作，sigmoid(·)表达西格蒙德函数，tanh(·)表达双曲正切函数，·表达矩阵或向量的乘积，⊙表达哈达玛积，ri，0，si，0分别表达ri，t，si，t的初值，在训练过程中通过随机的方式选取；将正向传播计算过程表达为：

15、ri，t＝l(xi；wf，wp，wq，wo)

16、其中，l(·)表达由以上公式说明的计算过程；通过该正向传播计算过程，将t＝1至t＝t时间段内，编号为i的设备发射的射频信号的总体特征xi计算为其在信号语义空间中的表征ri，t；

17、训练过程选择三个损失函数，每次，将一个用于训练的数据样本经上式所示过程计算为其表征，然后计算损失函数的值，最后进行反向传播，更新可训练参数wf、wp、wq、wo；所选择的损失函数表达为：

18、

19、其中，xi，m，m＝1,2，...，m表达来自编号为i的设备的第m条用于训练的数据样本，m为来自该设备的训练样本的总数，ri，m，t为xi，m的表征，ri，m，t＝l(xi，m；wf，wp，wq，wo)，ci表达所有来自编号为i的设备的数据样本的表征的中心向量，softmax(·)表达softmax函数，abs(·)表达取绝对值，reverse(·)表达一个解码神经网络，classify(·)表达一个分类神经网络；

20、引入互补点机制，将编号为i的设备的互补点定义为pi，pi满足：

21、

22、其中，d(·，·)为距离度量函数；基于此机制，引入新的损失函数表达为：

23、

24、其中，ri为可学习参数；

25、(3)基于信号统计特征的语义空间分割：采用标准差阈值分割方法，将语义空间表达为：

26、

27、其中，vi表达编号为i的设备对应的语义空间，弘i表达用于训练的数据样本中所有属于该语义空间的向量ri，m，t的均值，φi表达分割阈值；对于语义空间vi，该分割阈值的确定方法为，对于用于训练的数据样本中每一个属于该语义空间的向量ri，m，t，计算下式：

28、di，m＝(ri，m，t-μi)t(ri，m，t-μi)

29、然后，计算di，m，m＝1,2，...，m的标准差σi，再将所有di，m的值由大至小排列，取第一个小于三倍σi的值作为语义空间vi的分割阈值φi；由此，整个语义空间被明确地分割为i+1部分，其中，前i部分vi，i＝1,2，...，i对应训练集中已知类型的设备所发出信号的语义空间，最后一部分被定义为：

30、vu＝rd-v1-v2-…-vi

31、其中，vu表达对应未知入侵设备所发出信号的语义空间，rd表达d维的实向量空间，d表达ri，m，t的维度；仅在该式中，符号“[·]-[·]”表示该符号左侧的语义空间除去所有来自该符号右侧的语义空间中的元素；

32、(4)入侵设备识别：当采集到一段信号并按照步骤(1)计算其特征xs后，将其特征输入训练完成的基于长短时记忆网络的神经网络并得到其表征rs，t，若rs，t不属于语义空间vu，则判断其为已知设备，通过识别出的设备编号判断其为正常智能制造设备或已知入侵设备；否则，判断其为未知入侵设备。

33、进一步地，基于长短时记忆网络的神经网络的不同损失函数的作用为：lcenter使得来自同一台设备的射频信号表征聚集在一起，保证了语义空间的稀疏性；lclassify确保基于长短时记忆网络的神经网络拥有足够的分类能力；lreconstruction则强化了基于长短时记忆网络的神经网络的表征能力。

34、进一步地，距离度量函数d(·，·)公式为：

35、

36、其中，z为超参数。

37、进一步地，通过步骤(2)训练所得的基于长短时记忆网络的神经网络，能够将输入xi，m投影至维度与其表征向量ri，m，t维度相同的语义空间内，在该语义空间内，来自相同编号设备的输入对应的表征向量聚集在一起，来自不同编号设备的输入对应的表征向量之间相互分离。

38、进一步地，步骤(4)中，若判断当前存在多段信号来自未知入侵设备，通过k-means聚类算法对其表征rs，t进行聚类，然后判断未知入侵设备数等于k-means聚类算法所得的类别数。

39、本发明与现有技术相比具有以下优点：

40、(1)本发明基于长短时记忆网络，能够分析不同时刻智能工厂内设备所发射的信号的特征之间的时序关系，并从该时序关系中提取有关信号特征的更深层次的信息，进一步地，能够提高非法入侵设备的检出效率。

41、(2)本发明基于特定的损失函数进行训练，使得神经网络的特征空间具有较好的稀疏性。利用该稀疏性，可以对识别出的非法入侵设备的特征进行聚类，从而实现智能工厂内非法入侵设备数量的识别。这对实际应用中查找非法入侵设备、排除非法入侵设备有着重要意义。