基于Transformer的轨道不平顺检测方法

本发明属于铁路轨道状态检测，具体涉及基于transformer的轨道不平顺检测方法。

背景技术：

1、铁路系统作为我国交通运输的基础性产业之一，对我国的经济、贸易等领域的发展起着重要的支撑作用。因此，在当前巨量铁路资源的背景下，轨道维护问题成为重中之重。

2、目前，世界上用于轨道状态检测的设备主要有轨道几何状态检测仪和轨道检测车两种。轨道几何状态检测仪的检测方法主要依赖人工操作，时间长、效率低，且存在一定的安全风险。而轨道检测车虽然检测效率较高，但其造价高昂，且使用过程中往往对铁路资源造成一定的挤兑。

3、此外，利用数据模型进行轨道不平顺检测的方法较为少见。部分基于深度学习的数据模型通常采用循环神经网络(rnn)、门控循环单元(gru)、长短期记忆网络(lstm)等序列神经网络，这类模型在结构上难以适应长序列数据的检测。因此，为了在这一背景下实现对轨道不平顺状态的高效检测，本发明通过改进transformer模型，建立在途列车的空间姿态与轨道不平顺之间的相关关系，间接检测轨道的不平顺状态。

技术实现思路

1、本发明的目的是提供基于transformer的轨道不平顺检测方法，解决了传统检测方法依赖高精度传感器导致的成本高问题，以及数据方法中序列神经网络难以处理长序列轨道数据的问题。

2、本发明所采用的技术方案是，基于transformer的轨道不平顺检测方法，具体按照以下步骤实施：

3、步骤1、获取铁路线路上的轨道不平顺数据与相对应的列车空间姿态数据，对该数据进行时间窗口法处理与数据标准化，构建轨道不平顺数据集，并将该数据集按照7：2：1的比例划分为训练集、验证集与测试集。

4、步骤2、构建transformer模型与轻量化解码器对transformer模型进行参数训练，当模型在验证集上的损失函数达到最小时候，记录下当前模型的全部参数值；

5、步骤3、利用transformer模型对步骤1划分出的测试集数据进行轨道不平顺检测；

6、步骤4、构建评价指标，对步骤3中的transformer模型输出的轨道不平顺的检测结果进行评价与分析。

7、本发明的特点还在于，

8、步骤1具体按照以下步骤实施：

9、步骤1.1、获取铁路线路上得到的列车的空间姿态数据为x＝{x1，x2，...，xi，...，xn}，xn为列车空间姿态数据的第n个采样点，i＝1，2，...，n，n为轨道检测车采样点的总数，轨道不平顺数据为y＝{y1，y2，...，yi，...，yn}，yn为轨道不平顺数据中第n个采样点；

10、步骤1.2、分别计算步骤1中的列车空间姿态数据x＝{x1，x2，...，xi，...，xn}和轨道不平顺数据y＝{y1，y2，...，yi，...，yn}的平均值和标准差：

11、

12、

13、

14、

15、其中，为列车空间姿态数据的平均值；δx为列车空间姿态数据的标准差；为轨道不平顺数据的平均值；δy为轨道不平顺数据的标准差；xi为列车空间姿态数据中第i个数据；yi为轨道不平顺数据中第i个数据；

16、步骤1.3、对列车空间姿态数据和轨道不平顺数据中的每个数据点进行数据标准化处理：

17、

18、

19、其中，xi表示列车空间姿态数据中第i个数据；yi表示轨道不平顺数据中第i个数据；

20、步骤1.4、对经过标准化后的列车空间姿态数据与轨道不平顺数据进行时间窗口法的处理；

21、步骤1.5、对经过处理后的数据按照7：2：1的比例划分为训练集、验证集与测试集。

22、步骤2具体按照以下步骤实施：

23、步骤2.1、按照表1中所设置的超参数建立transformer模型。

24、表1参数设置表

25、 超参数名称 超参数值 学习率 0.005 优化器 adamw 损失函数 mse 训练轮数 100 批次大小 5000 时间窗大小 100 编码器层数 3

26、步骤2.2、输入的列车空间姿态数据在transformer模型中首先进行自注意力运算：

27、

28、通过不同的矩阵w对x进行向量变换，其中x是列车的空间姿态数据，w通过反向传播算法学习得到transformer参数，

29、

30、

31、x矩阵变换所得到的qkv指query、key和value，是三个分别由输入矩阵通过三个不同的线性变换层转换得到的矩阵，通过对qk矩阵的乘运算获得x即列车空间姿态数据间的数据相关系数：

32、attention output＝attention weights·v         (10)

33、将相关系数与x的变换矩阵v进行点乘运算，获得自注意力运算的结果，其中self-attention的每个输出都是矩阵v的加权和，使得transformer能够有效地考虑到列车空间姿态数据地序列特征：

34、

35、对self-attention地输出结果进行残差链接与层归一化处理，得到transformer单层编码器的最终输出，而后由解码器对编码器输出进行特征解码操作，并对轨道不平顺状态做出最终预测。

36、步骤3具体按照以下步骤实施：

37、利用训练好的transformer模型对测试集上样本进行检测，得到基于transformer的轨道不平顺的检测结果。

38、步骤4具体按照以下步骤实施：

39、根据步骤3得到的transformer模型的轨道不平顺检测结果，结合步骤1中测试集下轨道不平顺数据的真实值，利用mse、mae、rmse以及r2评价参数对检测结果进行评价，运算公式如下：

40、

41、

42、

43、

44、其中，ytrue指真实的轨道不平顺数据，ypred指由transformer模型所输出的轨道不平顺状态估计值，n为测试集的总数据点数。

45、本发明的有益效果是，基于transformer的轨道不平顺检测方法，相比传统的直接测量方法，这种基于数据而间接分析方法有效减少对高精度陀螺仪等设备的依赖同时大大降低了轨道检测的时间成本，是一种更为便捷与高效的检测方式。而对比与序列神经网络，基于transformer的轨道不平顺检测方法能够更有效的处理长序列轨道不平顺数据，同时也具有更高的检测精度。