基于图联邦学习的数字孪生交通流预测系统

本发明属于交通流量管理，更为具体地讲，涉及一种基于图联邦学习的数字孪生交通流预测系统。

背景技术：

1、在城市化加速发展和车辆数量不断增长的背景下，城市内部的交通流量变得越发密集，准确的交通流量预测可以为城市交通管理提供重要依据，有助于提高交通效率、减少拥堵和事故。近些年，数字交通已经成为未来交通发展得主流趋势，交通基础设施与数字新科技的深度融合可以使交通流量预测变得更加安全、高效与准确。

2、数字孪生作为重要的数字化转型技术之一，与城市交通的深度融合可以在虚拟空间实现对城市交通的可视可控，完成对交通态势、突发事件的精准预测和对其引发的扰动效应的精准刻画。然而，孪生体模型的构建需要分布在城市各个位置的传感器数据，其中包括了大规模的历史以及实时交通数据，这将带来隐私泄露和数据安全问题。为了解决该问题，可以将其与图联邦学习相结合。现有大部分工作都假设每个节点包括很多个传感器，相当于每个节点持有不同的子图。然而，由于数据的隔离存储，不同子图之间的边被移除了。少量的研究将传感器作为图联邦学习的客户端点，但是图卷积操作使用的是预定义的静态图，所捕获到的多个节点之间的空间相关性几乎没有变化，无法体现交通的动态性。

技术实现思路

1、本发明的目的在于克服现有技术的不足，提供一种基于图联邦学习的数字孪生交通流预测系统，综合考虑交通数据的动态性和时间周期性的影响，进一步融合图联邦学习，最终达到在保证用户隐私的情况下提高交通流量预测的准确性。

2、为了实现上述发明目的，本发明基于图联邦学习的数字孪生交通流预测系统包括n个传感器、基站、服务器、n个传感器孪生模型dti、n个传感器数据处理模型ci、传感器全局孪生模型构建模块和全局交通流预测模型，i＝1,2,…,n，n表示交通网络中传感器的数量，其中：

3、每组传感器孪生模型dti和传感器数据处理模型ci对应交通网络中的一个传感器si，并部署在交通网络中与传感器si距离最近的基站上；

4、传感器孪生模型dti用于同步模拟传感器si的实体，所需要的数据包括传感器的物理参数，传感器的位置以及传感器所获取的外部数据；

5、传感器数据处理模型ci用于从传感器孪生模型dti获取传感器采集数据并进行处理，包括数据预处理模块、概率分布计算模块、时间特征嵌入模块、时间注意力模块、残差连接和层归一化模块，其中：

6、数据预处理模块对传感器采集数据进行预处理，将预处理得到的数据矩阵xi发送给概率分布计算模块和时间特征嵌入模块，预处理方法为：记传感器si的传感器采集数据包含t个时刻的数据，每个时刻存在m个特征数据，对每个特征数据进行标准化，从而得到大小为t×m的数据矩阵xi并发送至概率分布计算模块和时间特征嵌入模块；

7、概率分布计算模块根据数据矩阵xi计算得到每个时刻t数据的概率pi,t，从而得到概率向量pi＝(pi,1,pi,2,…,pi,t)，概率pi,t的计算公式为：

8、

9、其中，xi(t)表示数据矩阵xi中时刻t对应的行向量，||||表示求取欧几里德范数；

10、时间特征嵌入模块用于在数据矩阵xi中嵌入时间数据，得到时间嵌入数据矩阵x_tei并发送给时间注意力模块、残差连接和层归一化模块；嵌入时间数据的具体方法为：预先对所有时刻进行编码得到每个时刻对应的d维编码向量，然后将当前数据矩阵xi中t个时刻的编码向量构成大小为t×d的时间数据矩阵tei，将数据矩阵xi和时间数据矩阵tei进行拼接，则得到大小为t×(m+d)的时间嵌入数据矩阵x_tei，即x_tei＝[xi tei]；

11、时间注意力模块用于采用多头注意力机制对时间嵌入数据矩阵x_tei进行处理，提取得到时间特征矩阵x_tai并发送给残差连接和层归一化模块；

12、残差连接和层归一化模块用于对所接收到的时间嵌入数据矩阵x_tei和时间特征矩阵x_tai之间建立残差连接，然后进行层归一化得到特征矩阵

13、传感器全局孪生模型构建模块和全局交通流预测模型部署在服务器；传感器全局孪生模型构建模块用于模拟n个传感器si的空间关系得到传感器全局孪生模型，全局交通流预测模型用于根据传感器数据处理模型上传的数据以及传感器全局孪生模型中传感器的空间关系预测得到每个传感器的交通流预测值，其中：

14、传感器全局孪生模型构建模块用于根据每个传感器数据处理模型输出的概率向量pi生成全局传感器孪生模型g并发送给全局交通流预测模型；全局传感器孪生模型g的生成方法为：

15、将n个传感器si作为全局传感器孪生模型g的节点，然后采用如下方法得到对应的邻接矩阵a：对于n个概率向量pi，计算任意两个概率向量的余弦相似度作为对应传感器的相关性si,j，j＝1,2,…,n且j≠i，如果相关性si,j大于预设阈值ε，则判定两个传感器相关，令邻接矩阵中对应元素ai,j＝1，否则令邻接矩阵中对应元素ai,j＝0；

16、全局交通流预测模型包括图卷积模块、空间注意力模块、残差连接和层归一化模块和预测模块，其中：

17、图卷积模块接收每个传感器数据处理模型输出的特征矩阵和全局传感器孪生模型g，将特征矩阵作为全局传感器孪生模型g中对应传感器节点的属性，对全局传感器孪生模型g进行图卷积，得到大小为n×f的特征矩阵y并发送给空间注意力模块、残差连接和层归一化模块，其中f表示每个传感器对应特征的维度；

18、空间注意力模块接收特征矩阵y和全局传感器孪生模型g，将特征矩阵y中每个行向量作为对应传感器节点的属性，采用图多头注意力机制对全局传感器孪生模型g进行特征提取，得到大小为n×g的特征矩阵yta并发送给残差连接和层归一化模块；

19、残差连接和层归一化模块用于对所接收到的特征矩阵y和特征矩阵yta之间建立残差连接，然后进行层归一化得到特征矩阵yout并发送给预测模块；

20、预测模块用于根据特征矩阵yout处理得到大小为n×k的交通流量预测矩阵pre，其中prei,k表示传感器si在第k个预测时刻的预测流量，k＝1,2,…,k，k表示预设时刻数量；

21、数字孪生交通流预测系统采用联邦学习的方法进行训练，具体方法为：

22、s1：令迭代次数g＝1；

23、s2：每个传感器si分别采集连续t+k个时刻的数据，其中前t个时刻的数据为每个时刻的m个特征数据，后k个时刻的数据为每个时刻的交通流量，将前t个时刻的m个特征数据作为传感器采集数据，将后k个时刻的交通流量作为期望预测结果，从而得到训练样本并同步至给对应的传感器孪生模型dti；

24、s3：每个传感器孪生模型dti在接收到训练样本后，将训练样本中的传感器采集数据输入传感器数据处理模型ci进行处理得到概率向量pi和特征矩阵并发送给服务器；

25、s4：服务器将接收到的所有传感器数据处理模型ci的概率向量pi输入传感器全局孪生模型构建模块得到全局传感器孪生模型g，全局交通流预测模型根据特征矩阵和全局传感器孪生模型g预测得到交通流量预测矩阵pre，然后将每个行向量作为对应传感器的交通流量预测结果prei＝(prei,1,prei,2,…,prei,k)反馈至对应传感器孪生模型dti所在基站；

26、s5：传感器孪生模型dti所在基站根据训练样本的期望预测结果和反馈的交通流量预测结果prei＝(prei,1,prei,2,…,prei,k)计算损失函数lossi并发送给服务器；

27、服务器接收到每个损失函数lossi后进行平均得到全局损失函数

28、s6：服务器根据全局损失函数计算全局损失函数梯度，然后对全局交通流预测模型进行反向传播更新其参数，直至图卷积模块；服务器将图卷积模块中与特征矩阵相关的梯度信息发送给传感器数据处理模型ci所在基站，对应基站在接收到梯度信息后，对传感器数据处理模型ci进行反向传播更新其参数；

29、s7：判断是否g＜gmax，gmax表示预设的最大迭代次数，如果是，进入步骤s8，否则训练完成；

30、s8：令g＝g+1，返回步骤s2；

31、当需要对交通网络进行交通流量预测时，每个传感器si采集最新的t个时刻的m个特征数据并同步至传感器孪生模型dti，由训练好的传感器数据处理模型ci进行处理得到概率向量和特征矩阵并发送给服务器；服务器将接收到的所有传感器数据处理模型ci的概率向量和特征矩阵作为输入数据输入传感器全局孪生模型构建模块和训练好的全局交通流预测模型进行处理得到交通流量预测矩阵从而得到每个传感器si所对应的k个时刻的预测交通流量。

32、本发明基于图联邦学习的数字孪生交通流预测系统，为交通网络中每个传感器设置一个传感器孪生模型和传感器数据处理模型，并部署在与传感器距离最近的基站上，在服务器部署传感器全局孪生模型构建模块和全局交通流预测模型，然后采用联邦学习的方法训练以上模型，当需要对交通网络进行交通流量预测时，训练好的传感器数据处理模型对传感器采集数据进行处理，将得到的概率向量和特征矩阵输入全局孪生模型构建模块和全局交通流预测模型得到预测交通流量。

33、本发明具有以下有益效果：

34、1)本发明考虑将数字孪生技术应用于交通领域，并且进一步融合了图联邦学习的思想，提升了交通流预测的准确性的同时保证的数据的安全；

35、2)本发明对时间相关性和空间相关性学习过程进行解耦，在传感器数据处理模型上获取时间相关性时考虑了交通流的周期性特点，能够更好的捕获交通流数据之间的时间关系；在全局交通流预测模型上学习空间相关性，并且在学习过程中由传感器全局孪生模型构建模块采用数据驱动的方式动态生成全局传感器孪生模型，这能够更好的捕捉交通的动态性，提高了交通流量预测的准确度。