网络音视频实时检测的人工智能治理方法和机器人

本发明涉及人工智能，特别是涉及一种网络音视频实时检测的人工智能治理方法和机器人。

背景技术：

1、网络音视频是海量的，特别是海量的实时音视频。

2、在实现本发明过程中，发明人发现现有技术中至少存在如下问题：如果对每一个音视频都同步进行审查，其对服务器的资源消耗量是海量的，容易导致服务器的崩溃。

3、因此，现有技术还有待于改进和发展。

技术实现思路

1、基于此，有必要针对现有技术的缺陷或不足，提供网络音视频实时检测的人工智能治理方法和机器人，既能做到实时审查，又能够节省计算和存储资源。

2、第一方面，本发明实施例提供一种人工智能治理方法，所述方法包括：

3、实时合并优先检测步骤：从待检测音视频信息库中选取k个优先级最高的实时音视频流抽样预设时长片段混合成1个音视频流进行检测；

4、不良内容定位步骤：若检测到k个实时音视频流抽样预设时长片段混合成的1个音视频流中含有不良的内容，则对这个k个实时音视频流中含有不良内容的时间段进行定位，根据该时间段来判断不良内容所在的音视频流。

5、优选地，所述方法还包括：

6、动态地确定k值步骤：若最近预设时长内查出不良的内容的次数小于预设阈值，就增大k的值，若最近预设时长内查出不良的内容的次数大于或等于预设阈值，就降低k的值。

7、优选地，所述方法还包括：

8、不良内容智能检测模型第一使用步骤：在使用阶段，获取从待检测音视频信息库中选取k个优先级最高的实时音视频流最近预设时长片段作为输入，通过不良内容智能检测模型的计算得到的输出作为所述k个实时音视频流中每个实时音视频流中所述预设时长片段中不良内容及其不良类型。

9、优选地，所述方法还包括：

10、不良内容保存步骤：将所述k个实时音视频流中每个实时音视频流中所述预设时长片段中不良内容及其不良类型保存到备查数据仓库。

11、第二方面，本发明实施例提供一种人工智能治理系统，所述系统包括：

12、实时合并优先检测模块：从待检测音视频信息库中选取k个优先级最高的实时音视频流抽样预设时长片段混合成1个音视频流进行检测；

13、不良内容定位模块：若检测到k个实时音视频流抽样预设时长片段混合成的1个音视频流中含有不良的内容，则对这个k个实时音视频流中含有不良内容的时间段进行定位，根据该时间段来判断不良内容所在的音视频流。

14、优选地，所述系统还包括：

15、动态地确定k值模块：若最近预设时长内查出不良的内容的次数小于预设阈值，就增大k的值，若最近预设时长内查出不良的内容的次数大于或等于预设阈值，就降低k的值。

16、优选地，所述系统还包括：

17、不良内容智能检测模型第一使用模块：在使用阶段，获取从待检测音视频信息库中选取k个优先级最高的实时音视频流最近预设时长片段作为输入，通过不良内容智能检测模型的计算得到的输出作为所述k个实时音视频流中每个实时音视频流中所述预设时长片段中不良内容及其不良类型。

18、优选地，所述系统还包括：

19、不良内容保存模块：将所述k个实时音视频流中每个实时音视频流中所述预设时长片段中不良内容及其不良类型保存到备查数据仓库。

20、第三方面，本发明实施例提供一种人工智能治理装置，所述装置包括第二方面实施例任意一项所述系统的模块。

21、第四方面，本发明实施例提供一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现第一方面实施例任意一项所述方法的步骤。

22、第五方面，本发明实施例提供一种机器人，包括存储器、处理器及存储在存储器上并可在处理器上运行的人工智能机器人程序，所述处理器执行所述程序时实现第一方面实施例任意一项所述方法的步骤。

23、本实施例提供的网络音视频实时检测的人工智能治理方法和机器人，将多个实时音视频流合并为一个音视频流，从而降低检测所需要同时使用的模型数，提高检测的效率和速度，在检测到不良内容时，根据合并之前各视频流的位置进行不良内容的定位，从而确保了检测的准确率和精细度，本申请提高了音视频实时检测的速度和效率。

技术特征：

1.一种人工智能治理方法，其特征在于，所述方法包括：

2.根据权利要求1所述的人工智能治理方法，其特征在于，所述方法还包括：

3.根据权利要求1所述的人工智能治理方法，其特征在于，所述方法还包括：

4.根据权利要求3所述的人工智能治理方法，其特征在于，所述方法还包括：

5.一种人工智能治理系统，其特征在于，所述系统包括：

6.根据权利要求5所述的人工智能治理系统，其特征在于，所述系统还包括：

7.根据权利要求5所述的人工智能治理系统，其特征在于，所述系统还包括：

8.根据权利要求6所述的人工智能治理系统，其特征在于，所述系统还包括：

9.一种机器人，包括存储器、处理器及存储在存储器上并可在处理器上运行的人工智能机器人程序，其特征在于，所述处理器执行所述程序时实现权利要求1-4任意一项所述方法的步骤。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现权利要求1-4任意一项所述方法的步骤。

技术总结网络音视频实时检测的人工智能治理方法和机器人，将多个实时音视频流合并为一个音视频流，从而降低检测所需要同时使用的模型数，提高检测的效率和速度，在检测到不良内容时，根据合并之前各视频流的位置进行不良内容的定位，从而确保了检测的准确率和精细度，本申请提高了音视频实时检测的速度和效率。技术研发人员：朱定局受保护的技术使用者：华南师范大学技术研发日：技术公布日：2024/9/29