直播内容智能审核和过滤处理方法及装置与流程

本发明涉及智能终端，尤其涉及的是一种直播内容智能审核和过滤处理方法、装置、智能电视及存储介质。

背景技术：

1、随着科技的发展和人们生活水平的不断提高，智能终端例如智能电视的使用越来越普及。

2、随着直播技术的不断发展，越来越多的内容被传播到了用户的屏幕上。然而，一些不良内容的出现给用户带来了巨大的困扰，对于未成年人的保护和社会秩序的维护也提出了新的要求。现有技术，直播的内容审核和过滤主要依靠人工审核和技术过滤相结合的方式，但这种方式存在着审核效率低、漏检率高等问题。

3、因此，现有技术还有待改进和发展。

技术实现思路

1、本发明要解决的技术问题在于，针对现有技术的上述缺陷，提供一种直播内容智能审核和过滤处理方法、装置、智能电视及存储介质，可以实现在直播过程中对内容自动进行实时审核和过滤，保护用户的合法权益，提高直播的安全性和可靠性，为用户的使用提供了方便。

2、本发明解决问题所采用的技术方案如下：

3、一种直播内容智能审核和过滤处理方法，其中，包括：

4、获取直播节目的内容信息，对获取的直播节目的内容信息进行实时分析，提取关键帧和图像特征；

5、以及获取直播节目的语音信息，对获取的直播节目的语音信息进行实时语音识别，转换为文本内容；

6、将提取的关键帧和图像特征，以及转换的文本内容，与预设的内容过滤库的内容进行实时匹配和过滤，并对不良内容进行屏蔽或提示；

7、对过滤后的直播节目内容允许播放。

8、所述的直播内容智能审核和过滤处理方法，其中，所述对过滤后的直播节目内容允许播放的步骤之后还包括：

9、接收用户的反馈信息，并根据反馈信息对过滤内容进行调整和优化。

10、所述的直播内容智能审核和过滤处理方法，其中，所述获取直播节目的内容信息，对获取的直播节目的内容信息进行实时分析，提取关键帧和图像特征的步骤之前包括：

11、预先设置一内容过滤库，用于录入需要匹配和过滤的设置规则。

12、所述的直播内容智能审核和过滤处理方法，其中，所述获取直播节目的内容信息，对获取的直播节目的内容信息进行实时分析，提取关键帧和图像特征的步骤包括：

13、获取直播节目的内容信息；

14、对获取的直播节目的内容信息采用图像处理和计算机视觉技术，对视频流进行实时分析，提取关键帧和图像特征；

15、其中，关键帧用于视频内容识别，图像特征则用于进行相似度匹配。

16、所述的直播内容智能审核和过滤处理方法，其中，所述获取直播节目的语音信息，对获取的直播节目的语音信息进行实时语音识别，转换为文本内容的步骤包括：

17、获取直播节目的语音信息，对获取的直播节目的语音信息采用深度学习和自然语言处理技术，对音频流进行实时识别，转换为文本内容；

18、获取文本转换结果的文本内容，其中，深度学习技术采用卷积神经网络和循环神经网络模型，对音频进行特征提取和建模；自然语言处理技术则采用分词、词向量技术，对文本进行处理和分析。

19、所述的直播内容智能审核和过滤处理方法，其中，所述将提取的关键帧和图像特征，以及转换的文本内容，与预设的内容过滤库的内容进行实时匹配和过滤，并对不良内容进行屏蔽或提示的步骤包括：

20、将提取的关键帧和图像特征，以及转换的文本内容，与预设的内容过滤库的内容进行实时匹配和过滤；

21、采用机器学习和规则匹配技术，根据关键帧、图像特征和文本转换结果进行实时匹配和过滤，对不良内容进行屏蔽或提示；

22、其中，所述机器学习技术为采用分类模型和聚类算法模型，对不良内容进行分类和识别；所述规则匹配为根据预设规则对不良内容进行判断和过滤。

23、所述的直播内容智能审核和过滤处理方法，其中，所述分类模型采用的训练步骤包括：

24、获取合规直播间和被封禁直播间的历史数据，作为训练样本，其中，正常直播间的历史数据作为正样本，被封禁直播间的历史数据作为负样本；将所述训练样本输入分类器，执行分类器算法，得到所述分类模型。

25、一种直播内容智能审核和过滤处理装置，其中，所述装置包括：

26、预先设置模块，用于预先设置一内容过滤库，用于录入需要匹配和过滤的设置规则；

27、视频分析模块，用于获取直播节目的内容信息，对获取的直播节目的内容信息进行实时分析，提取关键帧和图像特征；

28、语音识别模块，用于获取直播节目的语音信息，对获取的直播节目的语音信息进行实时语音识别，转换为文本内容；

29、内容过滤模块，用于将提取的关键帧和图像特征，以及转换的文本内容，与预设的内容过滤库的内容进行实时匹配和过滤，并对不良内容进行屏蔽或提示；

30、直播控制模块，用于对过滤后的直播节目内容允许播放；

31、反馈模块，用于接收用户的反馈信息，并根据反馈信息对过滤内容进行调整和优化。

32、一种智能电视，其中，包括有存储器，以及一个或者一个以上的程序，其中一个或者一个以上程序存储于存储器中，且经配置以由一个或者一个以上处理器执行所述一个或者一个以上程序包含用于执行任意一项所述的方法。

33、一种非临时性计算机可读存储介质，其中，当所述存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行任意一项所述的方法。

34、本发明的有益效果：本发明提供了一种直播内容智能审核和过滤处理方法、装置、智能电视及存储介质，本发明的优点在于，能够实现对电视直播过程中的内容进行实时审核和过滤，避免了人工审核的漏检现象，保护了用户的合法权益，提高了电视直播的安全性和可靠性。

技术特征：

1.一种直播内容智能审核和过滤处理方法，其特征在于，包括：

2.根据权利要求1所述的直播内容智能审核和过滤处理方法，其特征在于，所述对过滤后的直播节目内容允许播放的步骤之后还包括：

3.根据权利要求1所述的直播内容智能审核和过滤处理方法，其特征在于，所述获取直播节目的内容信息，对获取的直播节目的内容信息进行实时分析，提取关键帧和图像特征的步骤之前包括：

4.根据权利要求1所述的直播内容智能审核和过滤处理方法，其特征在于，所述获取直播节目的内容信息，对获取的直播节目的内容信息进行实时分析，提取关键帧和图像特征的步骤包括：

5.根据权利要求1所述的直播内容智能审核和过滤处理方法，其特征在于，所述获取直播节目的语音信息，对获取的直播节目的语音信息进行实时语音识别，转换为文本内容的步骤包括：

6.根据权利要求1所述的直播内容智能审核和过滤处理方法，其特征在于，所述将提取的关键帧和图像特征，以及转换的文本内容，与预设的内容过滤库的内容进行实时匹配和过滤，并对不良内容进行屏蔽或提示的步骤包括：

7.根据权利要求6所述的直播内容智能审核和过滤处理方法，其特征在于，所述分类模型采用的训练步骤包括：

8.一种直播内容智能审核和过滤处理装置，其特征在于，所述装置包括：

9.一种智能电视，其特征在于，包括有存储器，以及一个或者一个以上的程序，其中一个或者一个以上程序存储于存储器中，且经配置以由一个或者一个以上处理器执行所述一个或者一个以上程序包含用于执行如权利要求1-7中任意一项所述的方法。

10.一种非临时性计算机可读存储介质，其特征在于，当所述存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行如权利要求1-7中任意一项所述的方法。

技术总结本发明公开了直播内容智能审核和过滤处理方法及装置，包括：获取直播节目的内容信息，对获取的直播节目的内容信息进行实时分析，提取关键帧和图像特征；以及获取直播节目的语音信息，对获取的直播节目的语音信息进行实时语音识别，转换为文本内容；将提取的关键帧和图像特征，以及转换的文本内容，与预设的内容过滤库的内容进行实时匹配和过滤，并对不良内容进行屏蔽或提示；对过滤后的直播节目内容允许播放。本发明可以实现在电视直播过程中对内容进行实时审核和过滤，保护用户的合法权益，提高电视直播的安全性和可靠性。技术研发人员：高彬,许辉福受保护的技术使用者：深圳市酷开网络科技股份有限公司技术研发日：技术公布日：2024/7/25