联邦学习贡献度评估方法、装置、电子设备、介质及产品与流程

本技术涉及联邦学习，尤其涉及一种联邦学习贡献度评估方法、装置、电子设备、计算机可读存储介质及计算机程序产品。

背景技术：

1、目前，联邦学习在金融、医疗等涉及隐私数据或孤岛数据的领域均有应用。在联邦学习的过程中，每个参与方或客户端的贡献度是建立有效的激励机制重要的参数。目前主流的方案是通过计算shapley(沙普利)值来确定每个客户端的数据贡献度，需要复杂的博弈论基础且时间复杂度高。但这种计算方式在参与方数量较多的情况下，需要考虑所有可能的参与者组合，导致时间复杂度过高，耗时过长，而且需要耗费的计算资源也较多，对于资源有限的边缘设备或移动设备，执行计算shapley值的任务会产生过高的性能开销和电量消耗。

2、上述内容仅用于辅助理解本技术的技术方案，并不代表承认上述内容是现有技术。

技术实现思路

1、本技术的主要目的在于提供一种联邦学习贡献度评估方法、装置、电子设备、计算机可读存储介质及计算机程序产品，旨在解决目前的联邦学习贡献度评估方法的复杂度过高的技术问题。

2、为实现上述目的，本技术提出一种应用于服务端的联邦学习贡献度评估方法，所述联邦学习贡献度评估方法包括：

3、获取初始全局模型，将所述初始全局模型发送到预设客户端集中的各客户端；

4、基于接收到的所述预设客户端集中的各客户端上传的本地模型对所述初始全局模型进行迭代更新，确定整体全局模型；

5、基于接收到的所述预设客户端集中除待评估客户端以外的客户端上传的本地模型进行多次模型聚合与更新，确定部分全局模型；

6、根据所述整体全局模型与所述部分全局模型之间的性能差值，确定所述待评估客户端的贡献度。

7、在一实施例中，所述基于接收到的所述预设客户端集中除待评估客户端以外的客户端上传的本地模型进行多次模型聚合与更新，确定部分全局模型的步骤包括：

8、接收各所述客户端上传的本地模型，然后将所述预设客户端集中除所述待评估客户端以外的客户端对应的本地模型进行模型聚合，得到更新全局模型；

9、将所述更新全局模型发送到所述预设客户端集中除所述待评估客户端以外的客户端，以供各所述客户端对所述更新全局模型进行迭代训练，并根据各所述客户端训练后上传的本地模型确定部分全局模型。

10、在一实施例中，所述将所述更新全局模型发送到所述预设客户端集中除所述待评估客户端以外的客户端，以供各所述客户端对所述更新全局模型进行迭代训练，并根据各所述客户端训练后上传的本地模型确定部分全局模型的步骤包括：

11、将所述更新全局模型下发至所述预设客户端集中除所述待评估客户端以外的客户端，以供所述预设客户端集中除所述待评估客户端以外的客户端对所述更新全局模型进行训练，得到各所述客户端分别对应的本地模型；

12、接收并聚合各所述客户端发送的本地模型，得到更新后的更新全局模型；

13、判断所述更新全局模型的迭代训练次数是否达到预设次数；

14、若否，则返回执行步骤：将所述更新全局模型下发至所述预设客户端集中除所述待评估客户端以外的客户端；

15、若是，则将所述更新全局模型置为部分全局模型。

16、在一实施例中，所述性能差值为准确率差值，所述根据所述整体全局模型与所述部分全局模型之间的性能差值，确定所述待评估客户端的贡献度的步骤包括：

17、获取预设的测试样本数据，将所述测试样本数据分别输入所述整体全局模型和所述部分全局模型，得到所述整体全局模型和所述部分全局模型分别对应的预测结果；

18、根据所述测试样本数据的真实标签和所述整体全局模型和所述部分全局模型分别对应的预测结果，计算所述整体全局模型和所述部分全局模型分别对应的准确率；

19、计算所述整体全局模型的准确率和所述部分全局模型的准确率之间的差值，得到所述待评估客户端的贡献度。

20、在一实施例中，所述性能差值为召回率差值，所述根据所述整体全局模型与所述部分全局模型之间的性能差，确定所述待评估客户端的贡献度的步骤包括：

21、获取预设的测试样本数据，将所述测试样本数据分别输入所述整体全局模型和所述部分全局模型，确定所述整体全局模型和所述部分全局模型分别对应的混淆矩阵；

22、根据所述整体全局模型和所述部分全局模型分别对应的混淆矩阵，计算所述整体全局模型和所述部分全局模型分别对应的召回率；

23、计算所述整体全局模型的召回率和所述部分全局模型的召回率之间的差值，得到所述待评估客户端的贡献度。

24、此外，本技术还提出一种应用于客户端的联邦学习贡献度评估方法，所述，所述联邦学习贡献度评估方法包括：

25、当接收到服务端发送的初始全局模型时，根据本地数据对所述初始全局模型进行训练，得到训练后的本地模型；

26、将所述本地模型上传至所述服务端，以供所述服务端基于接收到的预设客户端集中的各客户端上传的本地模型对所述初始全局模型进行迭代更新，确定整体全局模型，以及基于接收到的所述预设客户端集中除待评估客户端以外的客户端上传的本地模型进行多次模型聚合与更新，确定部分全局模型，并根据所述整体全局模型与所述部分全局模型之间的性能差值，确定所述待评估客户端的贡献度。

27、此外，为实现上述目的，本技术还提出一种联邦学习贡献度评估装置，所述联邦学习贡献度评估装置包括：

28、初始化模块，用于获取初始全局模型，将所述初始全局模型发送到预设客户端集中的各客户端；

29、整体全局训练模块，用于基于接收到的所述预设客户端集中的各客户端上传的本地模型对所述初始全局模型进行迭代更新，确定整体全局模型；

30、部分全局训练模块，用于基于接收到的所述预设客户端集中除待评估客户端以外的客户端上传的本地模型进行多次模型聚合与更新，确定部分全局模型；

31、贡献度计算模块，用于根据所述整体全局模型与所述部分全局模型之间的性能差值，确定所述待评估客户端的贡献度。

32、此外，为实现上述目的，本技术还提出一种电子设备，所述设备包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序配置为实现如上文所述的联邦学习贡献度评估方法的步骤。

33、此外，为实现上述目的，本技术还提出一种存储介质，所述存储介质为计算机可读存储介质，所述存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如上文所述的联邦学习贡献度评估方法的步骤。

34、此外，为实现上述目的，本技术还提供一种计算机程序产品，所述计算机程序产品包括计算机程序，所述计算机程序被处理器执行时实现如上文所述的联邦学习贡献度评估方法的步骤。

35、本技术提出了一种联邦学习贡献度评估方法，在联邦学习贡献度评估方法中，首先获取初始全局模型，将所述初始全局模型发送到预设客户端集中的各客户端，以实现对全局模型的初始化和初步训练，再基于接收到的所述预设客户端集中的各客户端上传的本地模型对所述初始全局模型进行迭代更新，确定整体全局模型，其中，整体全局模型是由包括待评估客户端在内的全部客户端进行联邦训练得到的，然后基于接收到的所述预设客户端集中除待评估客户端以外的客户端上传的本地模型进行多次模型聚合与更新，确定部分全局模型，其中，部分全局模型是由不包括待评估客户端在内的其他客户端训练得到的，最后根据所述整体全局模型与所述部分全局模型之间的性能差值，确定所述待评估客户端的贡献度，因为整体全局模型和部分全局模型之间的差别在于是否有待评估客户端参与联邦学习，所以两者之间的性能差值能体现出待评估客户端为整体全局模型的性能所作出的贡献。相比传统的shapley(沙普利)值来确定每个客户端的数据贡献度的方式，本技术的技术方案提供了一种基于遗忘学习的思路来进行贡献度评估，不需要复杂的博弈论基础，贡献度的计算与联邦学习训练的过程同步进行，同时进行整体全局模型和部分全局模型的训练，时间复杂度低，最后计算整体全局模型与部分全局模型之间的性能差值即可确定客户端的贡献度，整体计算复杂度更低，耗费的计算资源更少，对设备的性能开销和电量消耗也更低。