识别性别反串的人工智能治理网络内容方法

本发明涉及人工智能，特别是涉及一种识别性别反串的人工智能治理网络内容方法。

背景技术：

1、网络内容相关法规禁止“打造低俗人设。通过短视频特效和道具，刻意扮丑引流，借反串等名义打造低俗人设，无底线挑战公众审美。”性别反串是反串的主要形式之一，进行性别反串的识别对于网络内容治理有重要意义。

2、在实现本发明过程中，发明人发现现有技术中至少存在如下问题：性别反串的识别存在困难，因为性别反串的样本非常少，从而识别性别反串的深度学习模型很难有效地训练测试，由于样本量不足，往往使得训练出来的模型在使用时的识别率非常低。

3、因此，现有技术还有待于改进和发展。

技术实现思路

1、基于此，有必要针对现有技术的缺陷或不足，提供识别性别反串的人工智能治理网络内容方法，通过有大量样本的性别识别模型来间接地识别性别反串，提高了性别反串的识别率。

2、第一方面，本发明实施例提供一种人工智能治理方法，所述方法包括：

3、性别识别模型训练测试步骤：初始化深度学习模型作为性别识别模型；从训练测试数据集中获取网络内容作为输入，所述网络内容中人物及其为男性的概率和为女性的概率作为预期输出，对性别识别模型进行训练和测试；将另一测试集中含有非反串性别的人物的每一网络内容输入性别识别模型，计算得到的输出作为所述每一网络内容中人物为男性的概率和为女性的概率，计算所述每一网络内容中人物为男性的概率和为女性的概率的差异的绝对值，将其中概率差异的最大值和最小值作为非反串性别最大置性度和非反串性别最小置性度；

4、性别反串检测步骤：获取待检测的网络内容，将所述待检测的网络内容输入性别识别模型，输出为所述网络内容中的人物及其为男性的概率和为女性的概率，计算所述每一网络内容中人物为男性的概率和为女性的概率的差异的绝对值，若所述差异的绝对值小于非反串性别最小置性度，则所述所述网络内容中的人物为反串性别的人物。

5、优选地，所述方法还包括：

6、第一人工复核步骤：若性别反串检测步骤检测得到所述待检测网络内容中的人物为反串性别的人物，则获取人工复核的结果，若所述复核结果中所述所述网络内容中的人物为反串性别的人物，则将所述待检测的网络内容及其中反串性别的人物加入反串性别数据库；若所述复核结果中所述所述网络内容中的人物为非反串性别的人物，则将所述网络内容中人物为男性的概率和为女性的概率的差异的绝对值作为非反串性别最小置性度的值,将所述待检测的网络内容及其中非反串性别的人物加入非反串性别数据库。

7、优选地，所述方法还包括：

8、性别反串识别模型使用步骤：若性别反串识别模型的测试准确率高于预设阈值，则获取待检测的网络内容作为性别反串识别模型的输入，计算得到的输出作为所述网络内容中人物及其属于性别反串的概率。

9、优选地，所述方法还包括：

10、性别反串纠偏模型使用步骤：获取待处理的含有性别反串的网络内容作为输入，通过性别反串纠偏模型的计算得到的输出作为所述网络内容修改掉性别反串之后的网络内容。

11、第二方面，本发明实施例提供一种人工智能治理系统，所述系统包括：

12、性别识别模型训练测试模块：初始化深度学习模型作为性别识别模型；从训练测试数据集中获取网络内容作为输入，所述网络内容中人物及其为男性的概率和为女性的概率作为预期输出，对性别识别模型进行训练和测试；将另一测试集中含有非反串性别的人物的每一网络内容输入性别识别模型，计算得到的输出作为所述每一网络内容中人物为男性的概率和为女性的概率，计算所述每一网络内容中人物为男性的概率和为女性的概率的差异的绝对值，将其中概率差异的最大值和最小值作为非反串性别最大置性度和非反串性别最小置性度；

13、性别反串检测模块：获取待检测的网络内容，将所述待检测的网络内容输入性别识别模型，输出为所述网络内容中的人物及其为男性的概率和为女性的概率，计算所述每一网络内容中人物为男性的概率和为女性的概率的差异的绝对值，若所述差异的绝对值小于非反串性别最小置性度，则所述所述网络内容中的人物为反串性别的人物。

14、优选地，所述系统还包括：

15、第一人工复核模块：若性别反串检测模块检测得到所述待检测网络内容中的人物为反串性别的人物，则获取人工复核的结果，若所述复核结果中所述所述网络内容中的人物为反串性别的人物，则将所述待检测的网络内容及其中反串性别的人物加入反串性别数据库；若所述复核结果中所述所述网络内容中的人物为非反串性别的人物，则将所述网络内容中人物为男性的概率和为女性的概率的差异的绝对值作为非反串性别最小置性度的值,将所述待检测的网络内容及其中非反串性别的人物加入非反串性别数据库。

16、优选地，所述系统还包括：

17、性别反串识别模型使用模块：若性别反串识别模型的测试准确率高于预设阈值，则获取待检测的网络内容作为性别反串识别模型的输入，计算得到的输出作为所述网络内容中人物及其属于性别反串的概率。

18、优选地，所述系统还包括：

19、性别反串纠偏模型使用模块：获取待处理的含有性别反串的网络内容作为输入，通过性别反串纠偏模型的计算得到的输出作为所述网络内容修改掉性别反串之后的网络内容。

20、第三方面，本发明实施例提供一种人工智能治理装置，所述装置包括第二方面实施例任意一项所述系统的模块。

21、第四方面，本发明实施例提供一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现第一方面实施例任意一项所述方法的步骤。

22、第五方面，本发明实施例提供一种机器人，包括存储器、处理器及存储在存储器上并可在处理器上运行的人工智能机器人程序，所述处理器执行所述程序时实现第一方面实施例任意一项所述方法的步骤。

23、本实施例提供的识别性别反串的人工智能治理网络内容方法，通过训练具有较多样本的性别识别模型，来识别性别，再用男性和女性、性别反串来测试该模型，得到男性和女性、性别反串的输出概率范围，然后根据概率范围来判断待检测内容是否为性别反串，从而能够识别性别反串，并且能提高识别准确率。

技术特征：

1.一种人工智能治理方法，其特征在于，所述方法包括：

2.根据权利要求1所述的人工智能治理方法，其特征在于，所述方法还包括：

3.根据权利要求1所述的人工智能治理方法，其特征在于，所述方法还包括：

4.根据权利要求1所述的人工智能治理方法，其特征在于，所述方法还包括：

5.一种人工智能治理系统，其特征在于，所述系统包括：

6.根据权利要求5所述的人工智能治理系统，其特征在于，所述系统还包括：

7.根据权利要求5所述的人工智能治理系统，其特征在于，所述系统还包括：

8.根据权利要求5所述的人工智能治理系统，其特征在于，所述系统还包括：

9.一种机器人，包括存储器、处理器及存储在存储器上并可在处理器上运行的人工智能机器人程序，其特征在于，所述处理器执行所述程序时实现权利要求1-4任意一项所述方法的步骤。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现权利要求1-4任意一项所述方法的步骤。

技术总结识别性别反串的人工智能治理网络内容方法，通过训练具有较多样本的性别识别模型，来识别性别，再用男性和女性、性别反串来测试该模型，得到男性和女性、性别反串的输出概率范围，然后根据概率范围来判断待检测内容是否为性别反串，从而能够识别性别反串，并且能提高识别准确率。技术研发人员：朱定局受保护的技术使用者：华南师范大学技术研发日：技术公布日：2024/8/5