一种基于去中心化联邦学习和剪枝的窃电检测方法及装置

本发明属于窃电检测领域，具体涉及一种基于去中心化联邦学习和剪枝的窃电检测方法及装置。

背景技术：

1、随着智能电网的快速发展，窃电行为对电力系统的稳定运行造成了严重影响。近年来，有关窃电检测的研究越来越多，多种机器学习算法被用于窃电检测。机器学习方法利用大量现有数据训练网络模型，以提升检测效率。然而，传统机器学习方法在提升窃电检测效能的同时，并未充分考虑到用户隐私的保护。

2、因此，许多研究将联邦学习框架应用于窃电检测，在传统集中式联邦学习中，中央服务器与各个边缘智能设备协作训练神经网络模型，最终在中央服务器上聚合各网络模型，以更新全局模型。

3、但是这种方式，中央服务器与各边缘智能设备的高通信量限制了联邦学习框架的拓展性，中央服务器故障将导致整个训练过程的中断；除此之外，传统方法未考虑中央服务器的信任问题，将模型信息全部发送给可能不完全可靠的中央服务器，这可能引发用户隐私的潜在风险；同时，传统方法需要对模型参数进行大量的数据计算，效率低下、浪费资源。

技术实现思路

1、本发明的目的在于针对解决背景技术中提出的问题，提出一种基于去中心化联邦学习和剪枝的窃电检测方法及装置。

2、为实现上述目的，本发明所采取的技术方案为：

3、本发明提出的一种基于去中心化联邦学习和剪枝的窃电检测方法，包括：

4、将获取的用电数据输入训练完成的窃电检测模型中，输出该用电数据是否存在窃电行为，其中所述窃电检测模型包括由数据输入至输出依次连接的第一卷积层、第一激活函数、第二卷积层、第二激活函数、第三卷积层、第三激活函数、第四卷积层、第四激活函数、第一全连接层、第五激活函数和第二全连接层；

5、所述窃电检测模型的训练过程包括：

6、构建去中心化的联邦学习框架，且所述去中心化的联邦学习框架包括k个供电站；

7、将k个供电站的用电数据依次对窃电检测模型进行轮流训练，将k个供电站的用电数据每轮流训练一次作为一个训练轮次，并进行训练轮次的迭代训练；

8、对于第一个训练轮次，首先初始化窃电检测模型的参数，且将当前供电站训练好的窃电检测模型的参数作为下一个供电站训练的窃电检测模型的初始参数；

9、对于其余训练轮次，将上一个训练轮次完成后的窃电检测模型的参数作为本轮次训练的窃电检测模型的初始参数，且本轮次中，对当前供电站训练好的窃电检测模型压缩比例进行计算并判断是否达到预设的压缩比例，若没有达到预设的压缩比例，则对当前供电站训练好的窃电检测模型按照预设规则进行通道剪枝，然后将通道剪枝后的窃电检测模型的参数作为下一个供电站训练的窃电检测模型的初始参数，若达到预设的压缩比例，则直接将当前供电站训练好的窃电检测模型的参数作为下一个供电站训练的窃电检测模型的初始参数；

10、直到达到预设的训练轮次，得到训练好的窃电检测模型。

11、优选地，各供电站训练窃电检测模型过程中，窃电检测模型的参数的更新公式如下：

12、

13、其中，

14、

15、其中，表示第t轮第k个供电站训练好的窃电检测模型的参数，表示第t轮第k个供电站训练的窃电检测模型的初始参数，η表示学习率，表示分类交叉熵损失函数关于参数的梯度，:＝表示覆盖之前的值，表示在第一个训练轮次中初始化窃电检测模型的参数，表示第t轮第k-1个供电站训练好的窃电检测模型的参数，表示第t-1轮第k个供电站训练好的窃电检测模型的参数，t表示训练的轮次，t表示训练轮次的总数量，且t＞1，表示第t轮第k-1个供电站训练好的窃电检测模型经过通道剪枝后得到的参数。

16、优选地，所述对当前供电站训练好的窃电检测模型压缩比例进行计算，计算公式如下：

17、

18、其中，r表示当前训练好的窃电检测模型压缩比例，表示当前第t轮第k个供电站训练好的窃电检测模型的参数，表示当前第t轮第k个供电站训练好的窃电检测模型的计算量，表示在第一个训练轮次中初始化的训练的窃电检测模型的参数，表示在第一个训练轮次中初始化的训练的窃电检测模型的计算量。

19、优选地，所述对当前供电站训练好的窃电检测模型按照预设规则进行通道剪枝，包括：

20、首先计算当前供电站训练好的窃电检测模型的每层结构中每个通道的重要性分数，且计算公式如下：

21、

22、其中，importance(i)表示通道i的重要性分数，ni表示通道i的权重个数，wij表示通道i中第j个权重；

23、然后在每层结构中，将所有通道的重要性分数按从高到低排序，按照预设比例对排序后的通道中最后ml个通道进行剪枝，且计算公式如下：

24、ml＝p×cl×100％

25、其中，ml表示在第l层结构中通道按重要性分数按从高到低排序后对序列最后ml个通道进行剪枝，p表示通道剪枝过程中的预设比例，cl表示在第l层结构中通道的数量。

26、优选地，各激活函数采用relu激活函数。

27、优选地，一种基于去中心化联邦学习和模型剪枝的窃电检测装置，包括：

28、部署有训练完成的窃电检测模型的智能电表，用于采集用电数据，并且智能电表用于检测该用电数据是否存在窃电行为，其中所述窃电检测模型包括由数据输入至输出依次连接的第一卷积层、第一激活函数、第二卷积层、第二激活函数、第三卷积层、第三激活函数、第四卷积层、第四激活函数、第一全连接层、第五激活函数和第二全连接层；

29、第一模块，用于构建去中心化的联邦学习框架，且所述去中心化的联邦学习框架包括k个供电站，k个供电站的用电数据分别通过k个客户端进行获取，且第一模块还用于将k个客户端获取的k个供电站的用电数据依次对窃电检测模型进行轮流训练，并将k个供电站的用电数据每轮流训练一次作为一个训练轮次进行迭代；

30、所述第一模块在第一训练轮次中，还用于对训练的窃电检测模型的参数进行初始化，且用于将当前供电站训练好的窃电检测模型的参数作为下一个供电站训练的窃电检测模型的初始参数；

31、所述第一模块在其余训练轮次中，还用于将上一个训练轮次完成后的窃电检测模型的参数作为本轮次训练的窃电检测模型的初始参数，且本轮次中，用于对当前供电站训练好的窃电检测模型压缩比例进行计算并判断是否达到预设的压缩比例，若没有达到预设的压缩比例，则对当前供电站训练好的窃电检测模型按照预设规则进行通道剪枝，然后用于将通道剪枝后的窃电检测模型的参数作为下一个供电站训练的窃电检测模型的初始参数，若达到预设的压缩比例，则用于直接将当前供电站训练好的窃电检测模型的参数作为下一个供电站训练的窃电检测模型的初始参数；

32、所述第一模块还用于预设训练轮次，并用于在达到训练轮次后，停止窃电检测模型的训练。

33、与现有技术相比，本发明的有益效果为：

34、1、本基于去中心化联邦学习和剪枝的窃电检测方法及装置通过构建去中心化的联邦学习框架，且去中心化的联邦学习框架中的各供电站的用电数据对窃电检测模型依次进行训练，免去中央服务器参与，提高了可靠性和安全性，解决现有技术中中央服务器的不可靠、引发中断和泄露用户隐私的问题；

35、2、本基于去中心化联邦学习和剪枝的窃电检测方法及装置通过对窃电检测模型进行通道剪枝，提高了模型训练效率，进而提升了模型的整体性能和计算效率。