基于先验信息的量子安全联邦学习客户端双向选择方法

本发明属于联邦学习中客户端选择和隐私安全问题，具体内容涉及基于先验信息的未知变量预测、博弈论和量子安全通信的联邦学习隐私安全保护技术。

背景技术：

1、机器学习与工业物联网的融合推动了人工智能的发展。然而，在许多工业物联网应用中，数据分属于不同的设备，数据之间的共享带来了极大的安全隐患。此外，由于数据规模的不断扩大，高能耗的集中式训练聚合海量数据面临着极大挑战。联邦学习作为一种分布式机器学习算法，采用本地模型训练并共享模型参数的方式打破了“数据孤岛”实现了数据安全有效的共享，极大的降低了数据隐私泄露带来的风险。然而，由于移动客户端的异构型，客户端在贡献本地模型时存在不同的计算能力和通信条件，导致不同的训练时间。因此，让所有客户端牺牲自己的资源参与联邦学习训练是不现实的。

2、如何选择合适的客户端参与联邦学习，以提高联邦学习性能至关重要。另外，物联网中客户端有限的计算能力和带宽资源导致客户端在模型计算和传输过程中产生大量时间延迟，从而降低了联邦学习的收敛速度。大量数据的训练与模型传输会产生大量的能源消耗，这对低功耗物联网设备带来了严峻的挑战。另一方面，在资源受限的物联网场景中，为了保证自身的正常工作，客户端不愿消耗有限的资源参与联邦学习。此外，模型参数在传输过程中会遭受梯度攻击，后门攻击等，从而导致信息泄露。因此，需要设计一种安全的联邦学习客户端选择机制解决上述问题。

3、申请号为202310728301.5的发明专利公布了一种联邦学习客户端优化选择方法，包括通过中央参数服务器、客户端调度服务器和客户端组成联邦学习框架；中央参数服务器随机初始化全局模型；客户端调度服务器指定随机客户端参与本轮的训练任务，客户端调度服务器使用收到的资源信息；中央参数服务器将全局模型的参数分发给客户端；客户端收到全局模型参数后，进行分布式训练更新本地模型，并将本地模型的新参数上传到中央参数服务器；中央参数服务器对客户端上传的本地模型新参数进行聚合；直到全局模型达到预期的训练精度。上述发明能在给定的截止时间内选择更多的客户端参与联邦学习的模型训练，从而缩短模型训练时间，提高模型训练的精度。上述发明中采用随机选择方案确定参与联邦学习训练任务的客户端，但忽略了客户端决定是否参与联邦学习的自主性。由于客户端参与联邦学习会消耗大量的计算资源和通信资源将导致客户端无法持续参与训练或由于消耗过多的资源参与联邦学习训练而无法成功完成自身任务。另外，上述发明假设客户端无偿贡献有限的资源参与联邦学习，这种假设是理想化和不现实的。因此，上述发明忽略了客户端的自主性以及奖励机制在客户端选择中的作用。

技术实现思路

1、针对现有联邦学习客户端选择容易受到外部攻击，并且没有考虑客户端自身参与意愿的问题，本发明提出一种基于先验信息的量子安全联邦学习客户端双向选择方法，从激励机制以及量子安全通信两部分展开，通过主从博弈算法在保证模型参数的同时实现良好的客户端选择策略以及服务器定价策略。

2、为了达到上述目的，本发明的技术方案是这样实现的：

3、一种基于先验信息的量子安全联邦学习客户端双向选择方法，包括以下步骤：

4、s1、基于客户端的先验信息，采用因果推理筛选对联邦学习客户端选择有显著影响的部分信息，获得客户端的重要先验信息；

5、s2、根据步骤s1筛选出的客户端的重要先验信息，采用lstm网络预测客户端未知信息；

6、s3、从联邦学习中服务器和客户端两个角度出发，综合考虑联邦学习成本以及客户端参与意愿设计客户端双向选择机制；

7、s4、设计客户端激励机制的奖励分发策略激励客户端积极参与联邦学习；

8、s5、构建客户端双向选择机制中服务器和客户端的效用函数；

9、s6、根据步骤s5中服务器和客户端的效用函数，把双向选择问题转变为服务器和客户端的博弈问题，设计主从博弈算法找到最优的客户端选择策略以及奖励分发策略，选择出参与联邦学习的客户端并分发奖励；

10、s7、引入量子密钥分发技术在客户端和服务器之间实现密钥的安全分发，设计动态密钥管理策略；

11、s8、对参与联邦学习的客户端的本地模型，根据步骤s7设计的动态密钥管理策略，选取量子密钥对训练参数进行加密。

12、优选地，所述步骤s1的具体方法为：根据因果推理的回归表达式：通过客户端历史先验信息xt-w和yt-v联合预测当前信息xt，预测误差εm越小表示通过历史先验信息xt-w和yt-v联合预测的精度越高，从而根据预测误差εm的大小筛选出影响客户端未知的计算能力和网络连接质量的重要先验信息；式中，θ0为常数，βw和θv分别为历史先验信息xt-w和yt-v的多项式系数，εm为预测误差，p和q分别表示历史先验信息xt-w和yt-v的序列长度，w和v分别表示历史先验信息xt-w和yt-v的索引，xt-w为客户端t-w时刻的计算能力和网络连接质量的历史先验信息，yt-v为客户端t-v时刻的除计算能力和网络连接质量外的历史先验信息。

13、优选地，所述步骤s3中的客户端双向选择机制为：服务器选择客户端参与联邦学习，被选择的客户端会根据自身的参与意愿决定是否参加联邦学习。

14、优选地，所述步骤s4中客户端激励机制是指服务器通过奖励分发策略分发奖励弥补客户端自身消耗，以激励高质量客户端积极参与联邦学习，奖励分发策略会根据联邦学习任务中客户端的实际表现和系统需求进行调整和优化。

15、优选地，所述步骤s5中客户端和服务器效用函数的构建方法为：

16、在第n回合，客户端k在进行本地模型训练时产生的能耗时间本地模型训练完成后，客户端向相应的服务器上传训练得到的模型参数，令bk(n)为第n回合服务器向客户端k分配的带宽资源，则传输速率客户端参与联邦学习过程中，客户端k获得的奖励rk(n)表示为

17、则客户端k参与联邦学习的效用函数表示为

18、客户端的总效用u(n)表示为

19、服务器的效用函数表示为

20、上述式中，θk表示客户端k的计算芯片的有效电容系数，ck(n)表示客户端k完成一个样本数据训练的cpu周期数，μk(n)表示客户端k参与联邦学习的计算能力，dk(n)表示客户端k的数据量；pk表示客户端k的发射功率，gk表示客户端k与服务器之间的信道功率增益，dk(n)为客户端k到服务器之间的距离，σ2表示背景噪声的功率；qk(n)表示服务器客分给户端k的贡献度单价，k表示客户端总个数；表示第n回合客户端k将模型参数传输至服务器所产生的能耗；αk(n)表示第n回合客户端k参与联邦学习的决策变量；es(n)表示服务器聚合模型参数时消耗的成本。

21、优选地，所述步骤s6中把双向选择问题转变为服务器和客户端的博弈问题的方法为：采用主从博弈建模客户端与服务器效用最大化问题，服务器作为领导者制定定价策略，客户端作为跟随者根据服务器的定价策略调整自身的参与策略，通过主从博弈算法进行多轮匹配获得客户端最优的参与策略以及服务器最优的奖励分发策略。

22、优选地，所述步骤s6主从博弈算法包括以下步骤：

23、s6.1、服务器作为领导者随机初始化奖励分发策略；

24、s6.2、客户端作为跟随者根据收到的来自服务器的奖励，采用非线性规划算法获得客户端的资源分配策略以最大化客户端与服务器的效用函数；

25、s6.3、服务器根据客户端的资源分配策略，采用凸优化工具箱获得最优的客户端选择策略，选择出参与联邦学习的客户端；

26、步骤s6.1至步骤s6.3为一个博弈回合，客户端与服务器之间重复步骤s6.1至步骤s6.3迭代博弈，最终找到纳什均衡下的资源分配策略和客户端选择策略，选择出参与联邦学习的客户端并根据奖励分发策略分发奖励。

27、优选地，所述步骤s7包括以下步骤：

28、s7.1、量子密钥生成：由客户端通过量子光源产生一系列具有不同量子态的量子比特，并通过量子信道发送给服务器端，服务器接收到传输的量子比特，使用量子测量设备对量子比特的状态进行测量，客户端和服务器通过“公开协商”的方式交换测量结果，筛选出在相同状态下测量结果一致的量子比特，通过公开协商的结果，客户端和服务器确定一组共享的量子密钥并储存在密钥池中；

29、s7.2、量子密钥管理：建立一个用于监控和管理动态密钥的生成、分发和更新过程的动态密钥管理系统。

30、优选地，所述步骤s7.2建立动态密钥管理系统的方法为：当客户端i由于多次参与联邦学习训练而出现密钥不足的现象时，客户端i请求服务器调配密钥资源，服务器接到客户端i的调配密钥资源请求时，会根据密钥管理系统中剩余的密钥长度决定从哪个客户端的密钥池中进行调配。

31、优选地，所述步骤s8选取量子密钥对训练参数进行加密的方法为：客户端使用共享的量子密钥作为对称加密算法的密钥，并将待发送的联邦学习模型参数数据使用对称加密算法进行加密，加密后的密文通过安全的传输通道发送给服务器。

32、与现有技术相比，本发明的有益效果：本发明通过考虑客户端自身的先验信息采用因果推理方法筛选影响客户端选择的重要信息，并利用筛选出来的已知信息进行预测客户端未知的计算能力和网络连接质量，能够有效降低预测复杂度；通过考虑联邦学习成本以及训练质量，把客户端和服务器之间的双向选择问题建模为双方效用最大化问题，充分考虑到客户端的自主性以及奖励机制在客户端选择中的作用，采用主从博弈算法能够有效找到客户端选择策略以及服务器定价策略，缩短模型训练时间，提高模型训练精度，并具有更好的适用性；基于客户端选择策略，采用量子密钥协议对客户端本地模型参数进行加密，保证了本地模型参数上传过程中的安全。