技术新讯 > 计算推算,计数设备的制造及其应用技术 > 去中心化的联邦学习方法、系统及相关设备  >  正文

去中心化的联邦学习方法、系统及相关设备

  • 国知局
  • 2024-11-25 15:18:46

本技术涉及计算机,尤其涉及的是一种去中心化的联邦学习方法、系统及相关设备。

背景技术:

1、为了解决数据安全问题,联邦学习作为一种新兴的数据共享和分析方法,引起了广泛的关注。联邦学习能够在保护数据隐私的前提下,实现多个参与方之间的模型训练和知识共享。

2、相关技术中,在联邦学习的过程中,通常由一个固定的中心点服务器进行数据聚合,中心化问题严重。相关技术的问题在于,中心服务器容易出现单点故障问题,从而不利于提高模型训练的准确性。

3、因此,相关技术还有待改进和发展。

技术实现思路

1、本技术的主要目的在于提供一种去中心化的联邦学习方法、系统及相关设备,旨在解决相关技术中由一个固定的中心点服务器进行数据聚合时,容易在中心点服务器出现单点故障问题,不利于提高模型训练的准确性的技术问题。

2、为了实现上述目的,本技术第一方面提供一种去中心化的联邦学习方法,其中,上述去中心化的联邦学习方法包括:

3、联邦学习的参与方加入区块链,其中,上述参与方包括一个组织者和多个参与者;

4、上述组织者将上述区块链中的参与者划分为普通节点和委员会节点;

5、上述普通节点和上述委员会节点分别基于上述区块链获取联邦学习任务配置信息和当前轮次待训练的全局模型,并基于上述待训练的全局模型进行本地模型更新,获得前一轮次训练完成后的本地模型;

6、上述普通节点根据节点本地数据和上述联邦学习任务配置信息,对上述前一轮次训练完成后的本地模型进行模型训练,获得当前轮次的本地训练模型,并将上述本地训练模型上传至上述区块链;

7、上述委员会节点通过上述区块链获取上述本地训练模型,根据上述本地训练模型确定上述普通节点对应的贡献度评分以及当前轮次训练完成后的全局模型,并根据上述当前轮次训练完成后的全局模型确定上述委员会节点对应的贡献度评分;

8、响应于触发委员会节点更新事件,重新执行上述组织者将上述区块链中的参与者划分为普通节点和委员会节点的步骤,以获得更新后的普通节点和更新后的委员会节点,其中,上述参与者的划分根据上述参与者对应的贡献度评分进行,或者对上述参与者进行随机身份划分。

9、可选的,上述组织者将上述区块链中的参与者划分为普通节点和委员会节点,包括:

10、上述组织者获取目标节点数目;

11、若上述区块链中的参与者具有对应的贡献度评分,则上述组织者根据各上述参与者对应的贡献度评分,从上述区块链的所有参与者中筛选出目标节点数目个参与者作为委员会节点,并将其它参与者作为普通节点。

12、可选的,上述方法还包括:

13、若上述区块链中的参与者不具有对应的贡献度评分,则上述组织者从上述区块链的所有参与者中随机筛选出目标节点数目个参与者作为委员会节点,并将其它参与者作为普通节点。

14、可选的,上述参与者对应的贡献度评分为上述参与者当前轮次的贡献度评分;

15、或者,上述参与者对应的贡献度评分为根据上述参与者当前轮次的贡献度评分和历史轮次的贡献度评分确定的累计贡献度评分。

16、可选的,上述委员会节点通过上述区块链获取上述本地训练模型,根据上述本地训练模型确定上述普通节点对应的贡献度评分以及当前轮次训练完成后的全局模型,并根据上述当前轮次训练完成后的全局模型确定上述委员会节点对应的贡献度评分,包括:

17、上述委员会节点通过上述区块链获取上述普通节点对应的本地训练模型,根据获得的上述本地训练模型的模型准确率,确定上述普通节点当前轮次的贡献度评分;

18、上述委员会节点根据上述普通节点当前轮次的贡献度评分对上述普通节点对应的本地训练模型进行加权,以获得当前轮次训练完成后的全局模型;

19、上述委员会节点根据上述当前轮次训练完成后的全局模型的模型准确率,确定上述委员会节点当前轮次的贡献度评分。

20、可选的,上述方法还包括:

21、上述委员会节点将上述当前轮次训练完成后的全局模型、上述普通节点当前轮次的贡献度评分和上述委员会节点当前轮次的贡献度评分上传到上述区块链,并将上述当前轮次训练完成后的全局模型作为下一轮次待训练的全局模型。

22、可选的,上述方法还包括:

23、在上述区块链中执行联邦学习的时间达到预设的时间窗口阈值,或者接收到目标对象触发的节点更新信号时,触发上述委员会节点更新事件。

24、本技术第二方面提供一种去中心化的联邦学习系统,其中,上述去中心化的联邦学习系统包括:

25、参与方控制模块,用于控制联邦学习的参与方加入区块链,其中,上述参与方包括一个组织者和多个参与者;

26、节点划分模块,用于通过上述组织者将上述区块链中的参与者划分为普通节点和委员会节点;

27、节点控制模块,用于控制上述普通节点和上述委员会节点分别基于上述区块链获取联邦学习任务配置信息和当前轮次待训练的全局模型,并基于上述待训练的全局模型进行本地模型更新,获得前一轮次训练完成后的本地模型;

28、模型训练模块,用于控制上述普通节点根据节点本地数据和上述联邦学习任务配置信息,对上述前一轮次训练完成后的本地模型进行模型训练,获得当前轮次的本地训练模型,并将上述本地训练模型上传至上述区块链;

29、模型聚合模块,用于控制上述委员会节点通过上述区块链获取上述本地训练模型,根据上述本地训练模型确定上述普通节点对应的贡献度评分以及当前轮次训练完成后的全局模型,并根据上述当前轮次训练完成后的全局模型确定上述委员会节点对应的贡献度评分;

30、更新触发模块,用于响应于触发委员会节点更新事件,触发上述节点划分模块重新执行上述组织者将上述区块链中的参与者划分为普通节点和委员会节点的步骤,以获得更新后的普通节点和更新后的委员会节点,其中,上述参与者的划分根据上述参与者对应的贡献度评分进行,或者对上述参与者进行随机身份划分。

31、本技术第三方面提供一种智能终端,上述智能终端包括存储器、处理器以及存储在上述存储器上并可在上述处理器上运行的去中心化的联邦学习程序,上述去中心化的联邦学习程序被上述处理器执行时实现任意一项上述去中心化的联邦学习方法的步骤。

32、本技术第四方面提供一种计算机可读存储介质,上述计算机可读存储介质上存储有去中心化的联邦学习程序,上述去中心化的联邦学习程序被处理器执行时实现任意一项上述去中心化的联邦学习方法的步骤。

33、由上可见,本技术方案中方法包括:联邦学习的参与方加入区块链,其中,上述参与方包括一个组织者和多个参与者;上述组织者将上述区块链中的参与者划分为普通节点和委员会节点;上述普通节点和上述委员会节点分别基于上述区块链获取联邦学习任务配置信息和当前轮次待训练的全局模型,并基于上述待训练的全局模型进行本地模型更新,获得前一轮次训练完成后的本地模型;上述普通节点根据节点本地数据和上述联邦学习任务配置信息,对上述前一轮次训练完成后的本地模型进行模型训练,获得当前轮次的本地训练模型,并将上述本地训练模型上传至上述区块链;上述委员会节点通过上述区块链获取上述本地训练模型,根据上述本地训练模型确定上述普通节点对应的贡献度评分以及当前轮次训练完成后的全局模型,并根据上述当前轮次训练完成后的全局模型确定上述委员会节点对应的贡献度评分;响应于触发委员会节点更新事件,重新执行上述组织者将上述区块链中的参与者划分为普通节点和委员会节点的步骤,以获得更新后的普通节点和更新后的委员会节点,其中,上述参与者的划分根据上述参与者对应的贡献度评分进行,或者对上述参与者进行随机身份划分。

34、与现有技术相比,本技术方案基于区块链进行联邦学习,基于区块链中的委员会节点进行数据聚合,而委员会节点并不是固定的,在触发委员会节点更新事件时,会更新对应的普通节点和委员会节点。如此,可以降低使用固定的中心点服务器进行数据聚合时出现单点故障问题的影响,有利于提高联邦学习中模型训练的准确性。

本文地址:https://www.jishuxx.com/zhuanli/20241125/337292.html

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 YYfuon@163.com 举报,一经查实,本站将立刻删除。