基于联邦学习的时间序列模型不确定性校正方法与系统

本发明涉及时间序列校正，特别涉及基于联邦学习的时间序列模型不确定性校正方法与系统。

背景技术：

1、时间序列分析对于工业、医疗保健、环境和基础设施等不同领域至关重要。通过分析历史时间序列数据模式和利用机器学习算法来预测未来事件、检测异常并对模式进行分类。时间序列分析中的这些准确检测和分类有助于优化运营效率，增强决策过程，防止系统故障，并促进主动维护策略。鉴于其关键重要性和传感器技术的进步，再加上深度学习方法的快速发展，近年来对时间序列分析技术的研究显著增加。基于数据驱动方法进行时间序列分析最近成为一个热门话题。

2、然而，机构中标签数据不足和商业隐私问题阻碍了基于数据驱动方法进行时间序列在现实世界中的广泛应用。联邦学习（fl）最近成为了一种隐私保护范式，通过使用来自不同参与者客户端的去中心化数据来训练模型，这有助于在不直接访问数据的情况下对客户端数据进行模型训练。参与者客户端根据各自的数据独立训练模型，并定期在中央服务器上聚合模型参数，以创建全局模型，确保数据机密性。

3、fl框架最初是为了解决从分布在多个设备上的数据中有效学习的问题，同时保护数据隐私。近年来，在需要敏感数据处理的场景，如制造业、医疗保健和金融服务，尤其是存在数据岛和隐私问题的时间序列分析任务中fl的研究进展迅速。最新的研究成果都是基于fedavg，采用合成数据生成来进行数据扩充和分布调整，克服了本地数据可用性的限制，从而有助于fl的改进，解决在非同一和独立分布（非iid）数据集性能不佳的问题。

4、尽管这些方法取得了很大进步，但仍然存在一些不足：1、它们忽略了现实世界中各种非iid场景的挑战，并且缺乏不确定性校准。由于不同客户之间的不同数据分布，加上深度学习模型固有的可靠性和解释性不足，进一步放大了预测结果的不确定性；2、这些方法主要仅适用于个人分类或回归任务，泛化能力较差。

技术实现思路

1、鉴于上述状况，本发明的主要目的是为了提出基于联邦学习的时间序列模型不确定性校正方法与系统，以解决上述技术问题。

2、本发明提供了基于联邦学习的时间序列模型不确定性校正方法，所述方法包括如下步骤：

3、步骤1、获得每个本地客户端的本地标签数据分布，通过本地客户端的预测模型聚合每个本地客户端的本地标签数据分布，得到覆盖整个数据分布的全局模型；

4、步骤2、获取本地数据并构成本地数据集，基于本地数据集，结合全局模型计算得到先验分布，基于得到的先验分布，通过全局模型学习得到潜在空间上的条件分布，结合所述先验分布与所述潜在空间上的条件分布计算得到后验概率；根据得到的后验概率引导预测模型进行预训练，利用从所述本地标签数据分布中提取的特征作为输入数据集，输入到预训练的预测模型以得到不确定性模型；

5、步骤3、利用异方差广义高斯分布对时间序列回归任务和分类任务的分布进行建模，并更新所述不确定性模型，结合损失函数完成对不确定模型的训练。

6、本发明还提出基于联邦学习的时间序列模型不确定性校正系统，所述系统包括：

7、全局分布构建模块，用于获得每个本地客户端的本地标签数据分布，通过本地客户端的预测模型聚合每个本地客户端的本地标签数据分布，得到覆盖整个数据分布的全局模型；

8、不确定模型构建模块，用于获取本地数据并构成本地数据集，基于本地数据集，结合全局模型计算得到先验分布，基于得到的先验分布，通过全局模型学习得到潜在空间上的条件分布，结合所述先验分布与所述潜在空间上的条件分布计算得到后验概率；根据得到的后验概率引导预测模型进行预训练，利用从所述本地标签数据分布中提取的特征作为输入数据集，输入到预训练的预测模型以得到不确定性模型；

9、不确定模型更新模块，用于利用异方差广义高斯分布对时间序列回归任务和分类任务的分布进行建模，并更新所述不确定性模型，结合损失函数完成对不确定模型的训练。

10、与现有技术相比，本发明有益效果如下：

11、1、本发明提出一种用于联邦时间序列分析的分布传递模块，该模块在训练过程中将聚合的全局分布作为归纳偏差传递给单个本地客户端，并具有客户端数据的近似全局视图。它成功地缓解了异质性问题，并促进了回归和分类任务中卓越的泛化性能。

12、2、本发明通过学习保真度变换来捕获不确定性，以利用确定性预训练模型重建时间序列回归和分类任务的输出。这种方法为预训练的模型提供了有效的不确定性校准，而不会妨碍它们的性能。

13、3、本发明所提出的方法有效地缓解了数据异质性问题，并有效地校准了iid和非iid环境中时间序列回归和分类任务的不确定性。此外，与现有的fl方法相比，本发明在时间序列回归和分类任务上实现了最先进的性能。

14、本发明的附加方面与优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实施例了解到。

技术特征：

1.一种基于联邦学习的时间序列模型不确定性校正方法，其特征在于，所述方法包括如下步骤：

2.根据权利要求1所述的基于联邦学习的时间序列模型不确定性校正方法，其特征在于，在所述步骤1中，在所述获得每个本地客户端的本地标签数据分布，通过本地客户端的预测模型聚合每个本地客户端的本地标签数据分布，得到覆盖整个数据分布的全局模型的步骤中，对应存在如下关系式：

3.根据权利要求2所述的基于联邦学习的时间序列模型不确定性校正方法，其特征在于，在所述步骤2中，获取本地数据并构成本地数据集，基于本地数据集，结合全局模型计算得到先验分布，基于得到的先验分布，通过全局模型学习得到潜在空间上的条件分布，结合所述先验分布与所述潜在空间上的条件分布计算得到后验概率；根据得到的后验概率引导预测模型进行预训练，具体步骤如下：

4.根据权利要求3所述的基于联邦学习的时间序列模型不确定性校正方法，在所述步骤2中，利用从所述本地标签数据分布中提取的特征作为输入数据集，输入到预训练的预测模型以得到不确定性模型，具体步骤如下：

5.根据权利要求4所述的基于联邦学习的时间序列模型不确定性校正方法，其特征在于，在所述步骤3中，利用异方差广义高斯分布对时间序列回归任务和分类任务的分布进行建模，以捕获不确定性模型，同时更新不确定性模型，具体步骤如下：

6.根据权利要求5所述的基于联邦学习的时间序列模型不确定性校正方法，其特征在于，在所述步骤3中，利用位置参数对不确定性模型进行更新，其过程中涉及的计算公式为：

7.根据权利要求5所述的基于联邦学习的时间序列模型不确定性校正方法，其特征在于，在所述步骤3中，在利用异方差广义高斯分布对贝叶斯模型进行训练的过程中，使用损失函数优化不确定性模型，具体步骤如下：

8.基于联邦学习的时间序列模型不确定性校正系统，其特征在于，所述系统应用如上述权利要求1至7任意一项所述的基于联邦学习的时间序列模型不确定性校正方法，所述系统包括：

技术总结本发明提出一种基于联邦学习的时间序列模型不确定性校正方法与系统，该方法包括：通过本地客户端的预测模型聚合每个本地客户端的本地标签数据分布，得到覆盖整个数据分布的全局模型；基于数据集和全局模型计算得到先验分布，利用先验分布和全局模型学习潜在空间上的条件分布，得到后验概率，利用后验概率引导预测模型训练，利用特征结合与训练的预测模型得到不确定性模型；利用异方差广义高斯分布对时间序列回归任务和分类任务的分布进行建模，并更新不确定性模型，结合损失函数完成对不确定模型的训练。本发明可有效地缓解联邦学习中客户端数据异质性问题，并有效地校准了独立同分布和非独立同分布环境中时间序列预测模型的不确定性。技术研发人员：蔡超,方玉明,姜文晖,左一帆,陈强,钟日进受保护的技术使用者：江西财经大学技术研发日：技术公布日：2024/8/1