一种AI边缘算法接入系统及设备的制作方法

本发明属于ai边缘算法接入，具体涉及一种ai边缘算法接入系统及设备。

背景技术：

1、边缘计算因其低成本、节省带宽、数据安全可控等优势越来越普及。通过ip摄像头接入ai边缘计算盒子，方便中控平台管理员智能管理、分析各个场景，比如：明厨亮灶、智慧校园、智慧工地等。面对众多的第三方ai算法提供商，因其接口都不相同导致算法引入、适配的工作对客户二次开发来说非常困难。此外，ai算法提供商一般提供的是较为底层复杂的开发语言c或c++这样的sdk，更加大了客户的算法适配难度。

技术实现思路

1、为了克服上述技术缺陷，本发明提供了一种克服上述问题或者至少部分地解决上述问题的一种ai边缘算法接入系统、一种电子设备、一种电子设备以及一个或多个计算机可读介质。

2、本方案是通过以下技术方案实现的：

3、一种ai边缘算法接入系统，包括：

4、http server监听模块，用户通过restful api的接口所述http server监听模块通信；

5、视频流解码模块，接收rtsp视频流地址并进行视频流解码；

6、消息中间模块，接收视频经过解码后得到的图片帧；

7、算法模块，接收由所述消息中间模块分发的图片帧，用于管理ai算法仓库、ai算法进程的任务队列、保存中间结果数据以及基于图片帧生成结果数据，其中，ai算法仓库由多个第三方ai算法服务商的算法汇聚而成的；

8、中台服务器，用于将结果数据发送至用户设置的中台服务器。

9、作为本发明的进一步改进，所述http server监听模块还与数据库进行通信，用于查询算法模块保存在数据库的中间结果数据。

10、作为本发明的进一步改进，所述视频流解码模块判断接收到的rtsp视频流地址是否为新的rtsp视频流地址；

11、若是，则启动新的进行进行视频流解码。

12、作为本发明的进一步改进，所述消息中间模块所述消息中间模块通过订阅机制将图片帧进行分发，以使图片帧被多个不同功能的ai算法共享。

13、作为本发明的进一步改进，所述算法模块启动运行ai算法包括步骤：

14、若npu负载小于阈值，则从ai算法仓库中加载相应平台的ai算法模型，启动新的算法进程，并加入到任务队列中，ai算法模型处理所述消息中间模块的图像帧。

15、作为本发明的进一步改进，所述算法模块启动运行ai算法还包括步骤：

16、若npu大于阈值，则继续对cpu负载进行判断；

17、若cpu负载小于阈值，则从ai算法仓库中加载相应平台的ai算法模型，启动新的算法进程，并加入到任务队列中，ai算法模型处理所述消息中间模块的图像帧。

18、作为本发明的进一步改进，所述中台服务器以json文件的形式，将结果发送至用户设置的中台服务器。

19、作为本发明的进一步改进，所述json文件的内容包括：算法类型、视频流的地址、事件图片帧、告警类型、时间戳、以及存放在数据库上的算法模块中间结果数据。

20、本发明还提供了一种电子设备，包括处理器、通信接口、存储器和通信总线，其中，所述处理器、所述通信接口以及所述存储器通过所述通信总线完成相互间的通信；

21、所述存储器，用于存放计算机程序；

22、所述处理器，用于执行存储器上所存放的程序时，实现上述的ai边缘算法接入系统。

23、本发明还提供了一个或多个计算机可读介质，其上存储有指令，当由一个或多个处理器执行时，使得所述处理器执行上述的ai边缘算法接入系统。

24、与现有技术相比，本发明具有以下有益效果：通过restful的方式，解耦了ai算法sdk接口语言和客户调用的语言，同时，设置了视频流解码模块接收rtsp视频流地址并进行视频流解码，消息中间模块接收视频经过解码后得到的图片帧并进行分发；算法模块能对第三方ai算法的进行管理，客户也不必再关心ai算法实现的细节、运行的硬件平台差异(cpu、npu、gpu)、不同ai算法提供商的sdk接口差异，加快了用户二次开发、方便ai算法部署落地的工作。

技术特征：

1.一种ai边缘算法接入系统，其特征在于，包括：

2.根据权利要求1所述的ai边缘算法接入系统，其特征在于，所述http server监听模块还与数据库进行通信，用于查询算法模块保存在数据库的中间结果数据。

3.根据权利要求1所述的ai边缘算法接入系统，其特征在于，所述视频流解码模块判断接收到的rtsp视频流地址是否为新的rtsp视频流地址；

4.根据权利要求1所述的ai边缘算法接入系统，其特征在于，所述消息中间模块通过订阅机制将图片帧进行分发，以使图片帧被多个不同功能的ai算法共享。

5.根据权利要求1所述的ai边缘算法接入系统，其特征在于，所述算法模块启动运行ai算法包括步骤：

6.根据权利要求5所述的ai边缘算法接入系统，其特征在于，所述算法模块启动运行ai算法还包括步骤：

7.根据权利要求1所述的ai边缘算法接入系统，其特征在于，所述中台服务器以json文件的形式，将结果发送至用户设置的中台服务器。

8.根据权利要求8所述的ai边缘算法接入系统，其特征在于，所述json文件的内容包括：算法类型、视频流的地址、事件图片帧、告警类型、时间戳、以及存放在数据库上的算法模块中间结果数据。

9.一种电子设备，其特征在于，包括处理器、通信接口、存储器和通信总线，其中，所述处理器、所述通信接口以及所述存储器通过所述通信总线完成相互间的通信；

10.一个或多个计算机可读介质，其上存储有指令，当由一个或多个处理器执行时，使得所述处理器执行如权利要求1-7任一项所述的ai边缘算法接入系统。

技术总结本发明提供了一种AI边缘算法接入系统及设备，AI边缘算法接入系统包括：http server监听模块，用户通过RESTful API的接口所述http server监听模块通信；视频流解码模块接收RTSP视频流地址并进行视频流解码；消息中间模块接收视频经过解码后得到的图片帧；算法模块接收由所述消息中间模块分发的图片帧，用于管理AI算法仓库、AI算法进程的任务队列、保存中间结果数据以及基于图片帧生成结果数据；中台服务器用于将结果数据发送至用户设置的中台服务器。本发明通过RESTful，解耦AI提供商SDK接口语言和用户的调用语言，降低部署落地的难度，通过RESTful向用户统一的调用接口，消除不同算法提供商的接口差异，同时可以聚合更多第三方算法厂商的AI算法。技术研发人员：孙永聪,卢毅强,傅纬球受保护的技术使用者：广东天波信息技术股份有限公司技术研发日：技术公布日：2024/7/25