一种在边缘设备中部署安全监理大模型的方法及系统与流程

本发明属于计算机，具体涉及一种在边缘设备中部署安全监理大模型的方法及系统。

背景技术：

1、安全监理模型在配电网作业中起到相当重要的作用，其部署在边缘设备中能够对接配电网作业中的布控球，实现边缘侧视角控制，从而实现布控球水平与垂直作业面的自动巡视、作业人员位置的顶点轮训、登高载体图像和人员识别以及自动自动跟踪控制等。

2、但现有的高性能安全监理大模型尺寸和内存消耗较大，部署在边缘设备时，加载时间较长，其适应性较低，对边缘设备的性能要求较高。

3、因此，如何提高安全监理大模型的适应性，同时使安全监理大模型能够快速部署在边缘设备中，是本领域技术人员有待解决的技术问题。

技术实现思路

1、本发明的目的是为了解决现有技术中安全监理大模型适应性不高、部署时间长，且对边缘设备性能要求高的技术问题。

2、为实现上述技术目的，一方面，本发明提供了一种在边缘设备中部署安全监理大模型的方法，该方法包括：

3、通过可学习权重裁剪对原始安全监理大模型进行裁剪得到第一模型；

4、通过等效变换将所述第一模型中的激活值进行调整得到轻量化安全监理模型；

5、将所述轻量化安全监理模型部署至边缘设备中。

6、进一步地，所述通过可学习权重裁剪对原始安全监理大模型进行裁剪得到第一模型，具体包括：

7、通过所述可学习权重裁剪对原始安全监理大模型中的权重进行裁剪；

8、其中，所述可学习权重裁剪中包括两个可学习参数，并通过梯度下降方法优化可学习参数。

9、进一步地，所述等效变换中包括学习通道中的缩放参数和移位参数。

10、进一步地，所述方法还包括通过块状误差最小化策略优化可学习权重裁剪和等效变换中的参数。

11、进一步地，所述优化可学习权重裁剪和等效变换中的参数，具体包括：

12、分别将所述可学习权重裁剪和等效变换进行分块；

13、逐块进行参数优化。

14、进一步地，在通过可学习权重裁剪对原始安全监理大模型进行裁剪得到第一模型之前，所述方法还包括对可学习权重裁剪和等效变换进行训练。

15、另一方面，本发明还提供了一种在边缘设备中部署安全监理大模型的系统，所述系统包括：

16、裁剪模块，用于通过可学习权重裁剪对原始安全监理大模型进行裁剪得到第一模型；

17、等效变换模块，用于将所述第一模型中的激活值进行调整得到轻量化安全监理模型；

18、部署模块，用于将所述轻量化安全监理模型部署至边缘设备中。

19、本发明提供的一种在边缘设备中部署安全监理大模型的方法及系统，与现有技术相比，本方法先通过可学习权重裁剪对原始安全监理大模型进行裁剪得到第一模型；然后通过等效变换将所述第一模型中的激活值进行调整得到轻量化安全监理模型；最后将所述轻量化安全监理模型部署至边缘设备中，能够如何提高安全监理大模型的适应性，同时使安全监理大模型能够快速部署在边缘设备中，降低对边缘设备的性能要求。

技术特征：

1.一种在边缘设备中部署安全监理大模型的方法，其特征在于，所述方法包括：

2.如权利要求1所述的在边缘设备中部署安全监理大模型的方法，其特征在于，所述通过可学习权重裁剪对原始安全监理大模型进行裁剪得到第一模型，具体包括：

3.如权利要求1所述的在边缘设备中部署安全监理大模型的方法，其特征在于，所述等效变换中包括学习通道中的缩放参数和移位参数。

4.如权利要求1所述在边缘设备中部署安全监理大模型的方法，其特征在于，所述方法还包括通过块状误差最小化策略优化可学习权重裁剪和等效变换中的参数。

5.如权利要求4所述的在边缘设备中部署安全监理大模型的方法，其特征在于，所述优化可学习权重裁剪和等效变换中的参数，具体包括：

6.如权利要求1所述的在边缘设备中部署安全监理大模型的方法，其特征在于，在通过可学习权重裁剪对原始安全监理大模型进行裁剪得到第一模型之前，所述方法还包括对可学习权重裁剪和等效变换进行训练。

7.一种在边缘设备中部署安全监理大模型的系统，其特征在于，所述系统包括：

技术总结本发明公开了一种在边缘设备中部署安全监理大模型的方法及系统，该方法包括：先通过可学习权重裁剪对原始安全监理大模型进行裁剪得到第一模型；然后通过等效变换将所述第一模型中的激活值进行调整得到轻量化安全监理模型；最后将所述轻量化安全监理模型部署至边缘设备中，能够提高安全监理模型的适应性，同时使安全监理模型能够快速部署在边缘设备中，降低对边缘设备的性能要求。技术研发人员：刘传斌,赵秋亮,侯敬儒,江翰屿受保护的技术使用者：中电新元（北京）电力科技有限公司技术研发日：技术公布日：2024/11/4