一种联邦学习方法、设备及系统与流程

技术特征：
1.一种联邦学习方法，其特征在于，应用于联邦学习系统，所述联邦学习系统包括服务端和多个客户端，所述多个客户端上部署有相同的机器学习模型；所述方法包括：第一客户端接收来自服务端的所述机器学习模型的参数的第一值，所述第一客户端为所述多个客户端中的一个；在所述参数的第一值不满足第一条件的情况下，所述第一客户端根据所述第一训练数据、所述机器学习模型以及所述参数的本地值进行本轮训练，以得到本轮训练的训练结果，所述第一训练数据为预留在所述第一客户端的数据；所述第一客户端向所述服务端发送所述本轮训练的训练结果以及报警信息，所述报警信息指示所述参数的第一值不满足所述第一条件。2.根据权利要求1所述的方法，其特征在于，所述参数的本地值等于上一轮训练得到的所述参数的值。3.根据权利要求1或2所述的方法，其特征在于，所述本轮训练的训练结果为所述本轮训练得到的所述参数的值，或所述本轮训练得到的所述参数的值与所述参数的本地值之间的差。4.根据权利要求1至3中任意一项所述的方法，其特征在于，所述方法还包括：所述第一客户端根据第一训练数据及所述机器学习模型，确定所述参数的第一值不满足第一条件。5.根据权利要求4所述的方法，其特征在于，所述第一客户端根据第一训练数据及所述机器学习模型，确定所述参数的第一值不满足第一条件包括：所述第一客户端根据第一训练数据和所述参数的第一值，计算所述机器学习模型的至少一个性能的第一实际值；所述第一客户端根据所述机器学习模型的至少一个性能的第一实际值和所述机器学习模型的至少一个性能的第一目标值确定所述参数的第一值不满足第一条件。6.根据权利要求4所述的方法，其特征在于，所述机器学习模型的至少一个性能的第一目标值为所述机器学习模型经过上一轮训练后的至少一个性能的值，或在所述本轮训练前，所述机器学习模型经过每轮训练后的至少一个性能的最大值。7.根据权利要求5或6所述的方法，其特征在于，所述第一条件为：所述机器学习模型的性能的第一目标值与所述机器学习模型的性能的第一实际值的差值小于或等于第一阈值。8.根据权利要求4至6中任意一项所述的方法，其特征在于，所述机器学习模型的性能包括准确率、精确率、召回率以及f1分数中的至少一种。9.一种联邦学习方法，其特征在于，应用于联邦学习系统，所述联邦学习系统包括服务端和多个客户端，所述多个客户端上部署有机器学习模型；所述方法包括：所述服务端向所述多个客户端分别发送所述机器学习模型的参数的第一值，所述参数的第一值用于所述机器学习模型的本轮训练；所述服务端接收所述多个客户端各自的本轮训练的训练结果；在所述多个客户端中至少一个客户端还上报有报警信号的情况下，所述服务端从所述多个客户端各自的本轮训练的训练结果中筛选训练结果，所述报警信息指示所述参数的第一值不满足第一条件；所述服务端根据筛选出的训练结果计算所述参数的第三值，所述参数的第三值用于所
述机器学习模型的下一轮训练。10.根据权利要求9所述的方法，其特征在于，所述本轮训练的训练结果为所述本轮训练得到的所述参数的值，或所述本轮训练得到的所述参数的值与所述参数的本地值之间的差。11.根据权利要求9或10所示的方法，其特征在于，所述在所述多个客户端中至少一个客户端还上报有报警信号的情况下，所述服务端从所述多个客户端各自的本轮训练的训练结果中筛选训练结果包括：在所述多个客户端中至少一个客户端还上报有报警信号的情况下，所述服务端根据第二训练数据和所述多个客户端各自的本轮训练的训练结果，计算所述多个客户端各自的所述机器学习模型的性能的第二实际值，所述机器学习模型的性能的第二实际值为所述机器学习模型经过所述本轮训练后的性能的值，所述第二训练数据为预留在所述服务端的数据；所述服务端根据所述多个客户端各自的所述机器学习模型的性能的第二实际值和所述机器学习模型的性能的第二目标值，从所述多个客户端各自的本轮训练的训练结果中筛选出定满足第二条件的训练结果。12.根据权利要求11所述的方法，其特征在于，所述机器学习模型的性能的第二目标值为在所述本轮训练前，所述多个客户端各自的所述机器学习模型经过每轮训练后的性能的最大值；或所述机器学习模型的性能的第二目标值为所述多个客户端各自的所述机器学习模型的性能的第二实际值的最大值。13.根据权利要求11或12所述的方法，其特征在于，所述第二条件为：第二客户端的所述机器学习模型的性能的第二实际值大于所述机器学习模型的性能的第二目标值或第二差值小于第二阈值，所述第二差值等于所述机器学习模型的性能的第二目标值与第二客户端的所述机器学习模型的性能的第二实际值的差，所述第二客户端为所述多个客户端中的任意一个。14.根据权利要求11至13中任意一项所述的方法，其特征在于，上报有报警信号的客户端的训练结果都满足所述第二条件；根据上报有报警信号的客户端的训练结果计算的所述机器学习模型的性能的第二实际值的最大值大于，根据未上报报警信号的客户端的训练结果计算的所述机器学习模型的性能的第二实际值的最大值；所述服务端根据筛选出的训练结果计算所述参数的第三值包括：所述服务端根据筛选出的训练结果中上报有报警信号的客户端的训练结果，确定所述参数的第三值。15.根据权利要求11至13中任意一项所述的方法，其特征在于，上报有报警信号的客户端的训练结果都满足所述第二条件；根据上报有报警信号的客户端的训练结果计算的所述机器学习模型的性能的第二实际值的最大值小于，根据未上报报警信号的客户端的训练结果计算的所述机器学习模型的性能的第二实际值的最大值；所述服务端根据筛选出的训练结果计算所述参数的第三值包括：
所述服务端根据筛选出的训练结果中未上报报警信号的客户端的训练结果，确定所述参数的第三值。16.根据权利要求11至13中任意一项所述的方法，其特征在于，上报有报警信号的客户端的训练结果部分满足所述第二条件；所述服务端根据筛选出的训练结果计算所述参数的第三值包括：所述服务端根据筛选出的训练结果中上报有报警信号的客户端的训练结果，确定所述参数的第三值。17.根据权利要求9至16中任意一项所述的方法，其特征在于，所述方法还包括：若在包括所述本轮训练在内的m轮训练中，第三客户端的训练结果都不包含在筛选出的训练结果中，则所述服务端在所述本轮训练后的n轮训练中，仅从所述多个客户端中除所述第三客户端外的其他客户端的训练结果中筛选训练结果，所述第三客户端为所述多个客户端中的任意一个，m和n均为正整数。18.一种联邦学习装置，其特征在于，应用于联邦学习系统，所述联邦学习系统包括服务端和多个客户端，所述多个客户端上部署有相同的机器学习模型；所述联邦学习装置包含于所述多个客户端中的一个，且包括：接收单元，用于接收来自服务端的参数的第一值；训练单元，用于在所述参数的第一值不满足第一条件的情况下，根据所述第一训练数据、所述机器学习模型以及所述参数的本地值进行本轮训练，以得到本轮训练的训练结果，所述第一训练数据为预留在所述第一客户端的数据；发送单元，用于向所述服务端发送所述训练结果以及报警信息，所述报警信息指示所述参数的第一值不满足要求。19.一种联邦学习装置，其特征在于，应用于联邦学习系统，所述联邦学习系统包括服务端和多个客户端，所述多个客户端上部署有相同的机器学习模型；所述联邦学习装置包含于所述服务端中，且包括：发送单元，用于向所述多个客户端分别发送参数的第一值，所述参数的第一值用于所述机器学习模型的本轮训练；接收单元，用于接收所述多个客户端各自的本轮训练的训练结果；第一确定单元，用于在所述多个客户端中至少一个客户端还上报有报警信号的情况下，所述服务端从所述多个客户端各自的本轮训练的训练结果中筛选训练结果，所述报警信息指示所述参数的第一值不满足第一条件；第二确定单元，用于根据筛选出的训练结果计算所述参数的第三值，所述参数的第三值用于所述机器学习模型的下一轮训练。20.一种计算机设备，其特征在于，包括：至少一个处理器和存储器，存储器存储有可在处理器上运行的计算机执行指令，当所述计算机执行指令被所述处理器执行时，所述处理器执行如上述权利要求1-8中任意一项所述的方法，或如上述权利要求9-17中任意一项所述的方法。21.一种存储一个或多个计算机执行指令的计算机可读存储介质，其特征在于，当所述计算机执行指令被处理器执行时，所述处理器执行如上述权利要求1-17中任意一项所述的方法。
22.一种联邦学习系统，其特征在于，包括服务端和多个客户端，所述多个客户端上部署有相同的机器学习模型；所述多个客户端中的每个客户端用于执行上述权利要求1至8中任意一项所述的方法；所述服务端用于执行上述权利要求9至17中任意一项所述的方法。

技术总结
本申请实施例公开了一种联邦学习方法、设备及系统，用于提高联邦学习系统的鲁棒性。本申请实施例方法包括：第一客户端接收来自服务端的机器学习模型的参数的第一值，第一客户端为多个客户端中的一个；在参数的第一值不满足第一条件的情况下，第一客户端根据第一训练数据、机器学习模型以及参数的本地值进行本轮训练，以得到本轮训练的训练结果，第一训练数据为预留在第一客户端的数据；第一客户端向服务端发送训练结果以及报警信息，报警信息指示参数的第一值不满足要求。数的第一值不满足要求。数的第一值不满足要求。


技术研发人员：宋涛 郭含熙 马汝辉 管海兵 金修浪
受保护的技术使用者：华为技术有限公司
技术研发日：2020.08.13
技术公布日：2022/3/3