基于机器学习的游戏平台消息传送风险管理的制作方法

本申请大体上涉及基于机器学习的游戏平台消息传送风险管理。

背景技术：

1、例如计算机游戏等计算机模拟可允许玩家和/或观众之间的消息传送以增加乐趣。

技术实现思路

1、如本文中所理解，此类消息传送造成使玩家被垃圾邮件和/或来自垃圾邮件程序的消息淹没的风险，从而减少游戏，尤其在线游戏的乐趣。用户必须报告此类消息，并且其它人必须分析所述消息以确定要采取的适当动作。

2、如本文中还理解，例如在线游戏等计算机游戏呈现了检测其它基于计算机的活动不存在的垃圾邮件和垃圾邮件发送者(人类或机器人)的独特机会。确切地说，通常记录其它基于计算机的活动不需要的玩家(游戏者)行为的重要细节，并且此特定于游戏的行为数据可有利地用于减少计算机游戏中的垃圾邮件。

3、因此，本发明的原理使用数据，并且确切地说，使用跨越游戏且仅在游戏平台上可用的属性。还使用游戏平台中的玩家的独有游戏中行为模式。多个机器学习系统使风险调节过程自动化。提供了一种特定于游戏平台的独特需求的预测系统和决策引擎。可分析在玩游戏期间发送的每一消息，而不仅是用户可能报告为潜在有问题的消息。

4、因此，系统包含至少一个计算机介质，所述至少一个计算机介质并非暂时性信号且又包含可由至少一个处理器执行以从至少第一机器学习(ml)模型接收在玩计算机模拟期间从第一账户发送的第一消息是否为垃圾邮件的至少一个指示的指令。所述指令可执行以响应于所述指示用信号通知至少一个动作模块以确定动作，且对第一账户实施所述动作。

5、在实例中，第一ml模型可包含被配置成从第一消息接收内容作为输入的内容模型，且所述指令可执行以从至少第二ml模型接收在玩计算机模拟期间从第一账户发送的第一消息是否为垃圾邮件的至少一个指示。所述指令可执行以响应于来自第二ml模型的指示满足阈值，用信号通知至少一个动作模块以确定动作，且对第一账户实施动作。第二ml模型可被配置成接收与计算机模拟中的用户行为有关的信息作为输入。

6、在一些实施例中，所述指令可进一步可执行以从至少复合模型接收在玩计算机模拟期间从第一账户发送的第一消息是否为垃圾邮件的至少一个指示。所述指令可执行以响应于来自复合模型的指示满足阈值，用信号通知至少一个动作模块以确定动作，且对第一账户实施动作。复合模型可被配置成从第一ml模型和第二ml模型接收信息作为输入。

7、在非限制性实施方案中，动作可包含以下中的一个或多个：删除消息、向第一账户发送警告、临时挂起第一账户和永久禁用第一账户。

8、在一些实施例中，ml模型包含第一ml模型，第一消息属于第一消息类型，且来自第一ml模型的指示包含第一数值评分，且指令可执行以向惩罚引擎报告第一消息以从所述惩罚引擎接收校正动作，且不向惩罚引擎报告第一消息类型的第二消息和由第二不同ml引擎输出的第一数值评分。

9、在一些实施例中，ml模型包含第一ml模型，第一消息属于第一消息类型，且来自第一ml模型的指示包含第一数值评分，且指令可执行以向惩罚引擎报告第一消息以从所述惩罚引擎接收校正动作，且不向惩罚引擎报告第二消息类型的第二消息和由第一ml引擎输出的相同的第一数值评分。

10、对账户实施的动作可至少部分地通过ml引擎输出指示的次数和/或由ml引擎输出的评分的量值中的一个或多个来建立。

11、在非限制性实例中，指令可执行以响应于指示超出第一阈值第一量而对与第一消息相关联的第一账户实施第一动作，且对与第二消息相关联的第二账户实施第二动作，所述第二消息与来自ml引擎的超出第一阈值第一量的指示相关联。

12、如果需要，指令可执行以响应于指示从ml引擎返回第一次数而对与第一消息相关联的第一账户实施第一动作，且对与第二消息相关联的第二账户实施第二动作，所述第二消息与来自ml引擎的第二数量的指示相关联。

13、在另一方面中，方法包含使用第一机器学习(ml)模型处理来自在计算机模拟内从第一账户发送的至少第一消息的内容。方法还包含使用第二ml模型处理表示与第一账户相关联的用户行为的数据。方法包含接收第一ml模型和第二ml模型的输出，且至少部分地基于所述输出，选择性地对第一账户实施校正动作。

14、在另一方面中，组合件包含被编程为从与计算机游戏相关联的第一账户接收至少第一消息的至少一个处理器。处理器被编程为将第一消息的内容发送到第一机器学习(ml)模型，且从第一ml模型接收表示对内容的处理的第一指示。处理器还被编程为将表示与第一账户相关联的用户行为的数据发送到第二ml模型，且从第二ml模型接收表示对数据的处理的第二指示。至少部分地响应于第一指示和第二指示，处理器被编程为对第一账户实施校正动作。

15、此外，处理器被编程为从与计算机游戏相关联的第二账户接收至少第二消息。处理器被编程为将第二消息的内容发送到第一ml模型，从第一ml模型接收表示对第二消息的内容的处理的第三指示，将表示与第二账户相关联的用户行为的数据发送到第二ml模型，和从第二ml模型接收表示对数据的处理的第四指示，所述数据表示与第二账户相关联的用户行为。至少部分地响应于第三指示和第四指示，处理器被编程为不对第二账户实施校正动作。

16、在不受限制的情况下，处理器可以是计算机游戏操控台、计算机游戏控制器或计算机游戏服务器的组件。

17、本申请关于其结构和操作的细节可以参看附图来最好地理解，在附图中相同附图标记指代相同部分，且在附图中：

技术特征：

1.一种系统，其包括：

2.根据权利要求1所述的系统，其中所述第一ml模型包括被配置成从所述第一消息接收内容作为输入的内容模型，且所述指令可执行以：

3.根据权利要求2所述的系统，其中所述指令可执行以：

4.根据权利要求1所述的系统，其中所述动作包括删除所述消息。

5.根据权利要求1所述的系统，其中所述动作包括将警告发送到所述第一账户。

6.根据权利要求1所述的系统，其中所述动作包括临时挂起所述第一账户。

7.根据权利要求1所述的系统，其中所述动作包括永久禁用所述第一账户。

8.根据权利要求1所述的系统，其中所述ml模型包括第一ml模型，所述第一消息属于第一消息类型，且来自所述第一ml模型的所述指示包括第一数值评分，且所述指令可执行以：

9.根据权利要求1所述的系统，其中所述ml模型包括第一ml模型，所述第一消息属于第一消息类型，且来自所述第一ml模型的所述指示包括第一数值评分，且所述指令可执行以：

10.根据权利要求1所述的系统，其中所述动作至少部分地通过所述ml引擎输出所述指示的次数来建立。

11.根据权利要求1所述的系统，其中所述动作至少部分地通过由所述ml引擎输出的评分的量值来建立。

12.根据权利要求1所述的系统，其中所述指令可执行以：

13.根据权利要求1所述的系统，其中所述指令可执行以：

14.一种方法，其包括：

15.根据权利要求14所述的方法，其包括：

16.一种组合件，其包括：

17.根据权利要求16所述的组合件，其中所述处理器为计算机游戏控制台的组件。

18.根据权利要求16所述的组合件，其中所述处理器为计算机游戏控制器的组件。

19.根据权利要求16所述的组合件，其中所述处理器为计算机游戏服务器的组件。

20.根据权利要求16所述的组合件，其中所述处理器被编程为将所述第一指示和所述第二指示提供到复合模块，且基于所述复合模块的输出实施所述校正动作。

技术总结一种机器学习(ML)模型(200)用于基于习得的游戏者行为来识别计算机游戏设置中的垃圾邮件消息和垃圾邮件发送者。还可使用消息文本。评估器模块(500、502)从一个或多个ML模型接收指示特定消息是否为垃圾邮件的一个或多个评分，且当所述一个或多个评分满足阈值时，将所述消息传送到惩罚模块(412)以判断是警告、挂起还是禁用发送账户。技术研发人员：A·萨拉查,X·张受保护的技术使用者：索尼互动娱乐股份有限公司技术研发日：技术公布日：2024/11/21