任务处理方法及装置、任务处理模型训练方法及装置与流程

本说明书实施例涉及计算机，特别涉及任务处理方法及装置、任务处理模型训练方法及装置。

背景技术：

1、随着计算机技术的发展，大模型开始大放异彩，在语言理解、生成、交互和推理方面表现出的非凡能力，广泛应用于对话、翻译、代码生成等自然语言处理领域。然而，大模型由于其高价值容易成为窃取目标，因此，如何防御任务处理过程中针对大模型的窃取攻击逐渐成为研究重点。

2、目前，在任务处理过程中，通常使用应用程序接口（api，applicationprogramming interface）限制对大模型的访问权限和频率。然而，攻击者可能会找到绕过api限制的方法进行任务处理，导致任务处理过程中大模型的安全性仍旧无法得到保障，因此，亟需一种可以保障大模型安全性的任务处理方案。

技术实现思路

1、有鉴于此，本说明书实施例提供了一种任务处理方法。本说明书一个或者多个实施例同时涉及一种任务处理模型训练方法，一种任务处理装置，一种任务处理模型训练装置，一种任务处理系统，一种计算设备，一种计算机可读存储介质以及一种计算机程序产品，以解决现有技术中存在的技术缺陷。

2、根据本说明书实施例的第一方面，提供了一种任务处理方法，包括：

3、接收任务处理请求，其中，任务处理请求携带任务数据；

4、对任务数据进行数据检测，在根据数据检测结果确定任务数据为非拦截数据的情况下，将任务数据输入任务处理模型，获得任务处理结果，其中，任务处理模型基于正则化损失进行模型参数调整得到，正则化损失基于任务处理模型的模型参数得到；

5、对任务处理结果进行内容检测，在根据内容检测结果确定任务处理结果存在风险的情况下，对任务处理结果进行调整，获得目标处理结果，其中，目标处理结果不存在风险。

6、根据本说明书实施例的第二方面，提供了一种任务处理模型训练方法，包括：

7、获取样本任务数据和样本任务数据对应的样本任务结果；

8、将样本任务数据输入任务处理模型，获得样本任务数据的样本预测结果；

9、根据任务处理模型的模型参数，计算正则化损失，并根据样本任务结果和样本预测结果，计算预测损失；

10、根据预测损失和正则化损失，调整模型参数，获得训练完成的任务处理模型。

11、根据本说明书实施例的第三方面，提供了一种任务处理装置，包括：

12、接收模块，被配置为接收任务处理请求，其中，任务处理请求携带任务数据；

13、第一检测模块，被配置为对任务数据进行数据检测，在根据数据检测结果确定任务数据为非拦截数据的情况下，将任务数据输入任务处理模型，获得任务处理结果，其中，任务处理模型基于正则化损失进行模型参数调整得到，正则化损失基于任务处理模型的模型参数得到；

14、第二检测模块，被配置为对任务处理结果进行内容检测，在根据内容检测结果确定任务处理结果存在风险的情况下，对任务处理结果进行调整，获得目标处理结果，其中，目标处理结果不存在风险。

15、根据本说明书实施例的第四方面，提供了一种任务处理模型训练装置，包括：

16、获取模块，被配置为获取样本任务数据和样本任务数据对应的样本任务结果；

17、输入模块，被配置为将样本任务数据输入任务处理模型，获得样本任务数据的样本预测结果；

18、计算模块，被配置为根据任务处理模型的模型参数，计算正则化损失，并根据样本任务结果和样本预测结果，计算预测损失；

19、调整模块，被配置为根据预测损失和正则化损失，调整模型参数，获得训练完成的任务处理模型。

20、根据本说明书实施例的第五方面，提供了一种任务处理系统，包括请求监测单元和任务处理单元；

21、请求监测单元，用于接收任务处理请求，其中，任务处理请求携带任务数据；将任务数据发送至任务处理单元；

22、任务处理单元，用于对任务数据进行数据检测，在根据数据检测结果确定任务数据为非拦截数据的情况下，将任务数据输入任务处理模型，获得任务处理结果，其中，任务处理模型基于正则化损失进行模型参数调整得到，正则化损失基于任务处理模型的模型参数得到；对任务处理结果进行内容检测，在根据内容检测结果确定任务处理结果存在风险的情况下，对任务处理结果进行调整，获得目标处理结果，其中，目标处理结果不存在风险。

23、根据本说明书实施例的第六方面，提供了一种计算设备，包括：

24、存储器和处理器；

25、所述存储器用于存储计算机程序/指令，所述处理器用于执行所述计算机程序/指令，该计算机程序/指令被处理器执行时实现上述第一方面或者第二方面所提供方法的步骤。

26、根据本说明书实施例的第七方面，提供了一种计算机可读存储介质，其存储有计算机程序/指令，该计算机程序/指令被处理器执行时实现上述第一方面或者第二方面所提供方法的步骤。

27、根据本说明书实施例的第八方面，提供了一种计算机程序产品，包括计算机程序/指令，该计算机程序/指令被处理器执行时实现上述第一方面或者第二方面所提供方法的步骤。

28、本说明书一个实施例提供的任务处理方法，包括：接收任务处理请求，其中，任务处理请求携带任务数据；对任务数据进行数据检测，在根据数据检测结果确定任务数据为非拦截数据的情况下，将任务数据输入任务处理模型，获得任务处理结果，其中，任务处理模型基于正则化损失进行模型参数调整得到，正则化损失基于任务处理模型的模型参数得到；对任务处理结果进行内容检测，在根据内容检测结果确定任务处理结果存在风险的情况下，对任务处理结果进行调整，获得目标处理结果，其中，目标处理结果不存在风险。通过基于正则化损失训练得到任务处理模型，增加了模型参数的稀疏性，减少了模型关键特征被识别和复制的风险，并且，通过在模型处理之前和之后进行两次检测，为模型的安全性提供了双重保障。

技术特征：

1.一种任务处理方法，包括：

2.根据权利要求1所述的方法，所述对所述任务处理结果进行内容检测，在根据内容检测结果确定所述任务处理结果存在风险的情况下，对所述任务处理结果进行调整，获得目标处理结果，包括：

3.根据权利要求2所述的方法，所述在根据所述内容检测结果确定所述任务处理结果存在风险的情况下，生成所述任务处理结果的调整信息，包括：

4.根据权利要求2所述的方法，所述对所述任务处理结果进行内容检测，获得内容检测结果之后，还包括：

5.根据权利要求1所述的方法，所述对所述任务数据进行数据检测，在根据数据检测结果确定所述任务数据为非拦截数据的情况下，将所述任务数据输入任务处理模型，获得任务处理结果之前，还包括：

6.根据权利要求5所述的方法，所述对所述任务数据进行数据检测，获得数据检测结果之前，还包括：

7.根据权利要求1所述的方法，所述对所述任务数据进行数据检测，在根据数据检测结果确定所述任务数据为非拦截数据的情况下，将所述任务数据输入任务处理模型，获得任务处理结果之前，还包括：

8.根据权利要求7所述的方法，所述根据所述任务处理模型的模型参数，计算正则化损失，包括：

9.一种任务处理模型训练方法，包括：

10.一种任务处理系统，包括请求监测单元和任务处理单元；

11.一种任务处理装置，包括：

12.根据权利要求11所述的装置，第二检测模块，进一步被配置为对所述任务处理结果进行内容检测，获得内容检测结果；在根据所述内容检测结果确定所述任务处理结果存在风险的情况下，生成所述任务处理结果的调整信息；将所述调整信息和所述任务处理结果输入所述任务处理模型，获得调整后的任务处理结果，并返回执行所述对所述任务处理结果进行内容检测，获得内容检测结果的步骤，直至根据所述内容检测结果确定所述任务处理结果不存在风险，获得目标处理结果。

13.根据权利要求12所述的装置，第二检测模块，进一步被配置为在根据所述内容检测结果确定所述任务处理结果存在风险的情况下，确定所述任务处理结果的风险类型，其中，所述风险类型包括模型参数披露风险、模型训练数据披露风险中的至少一种；根据所述风险类型，生成所述任务处理结果的调整信息。

14.根据权利要求12所述的装置，该装置还包括：确定模块，被配置为在根据所述内容检测结果确定所述任务处理结果不存在风险的情况下，将所述任务处理结果确定为目标处理结果。

15.根据权利要求11所述的装置，该装置还包括：第三检测模块，被配置为对所述任务数据进行数据检测，获得数据检测结果；在根据所述数据检测结果确定所述任务数据为拦截数据的情况下，确定所述任务处理请求处理失败。

16.根据权利要求15所述的装置，该装置还包括：第四检测模块，被配置为对所述任务数据进行异常检测，获得异常检测结果；第三检测模块，进一步被配置为在根据所述异常检测结果确定所述任务数据为非异常数据的情况下，对所述任务数据进行数据检测，获得数据检测结果。

17.根据权利要求11所述的装置，该装置还包括：模型训练模块，被配置为获取样本任务数据和样本任务数据对应的样本任务结果；将所述样本任务数据输入任务处理模型，获得所述样本任务数据的样本预测结果；根据所述任务处理模型的模型参数，计算正则化损失，并根据所述样本任务结果和所述样本预测结果，计算预测损失；根据所述预测损失和所述正则化损失，调整所述模型参数，获得训练完成的任务处理模型。

18.根据权利要求17所述的装置，模型训练模块，进一步被配置为根据所述模型参数的模数，计算所述正则化损失；和/或，根据所述模型参数的平方值，计算所述正则化损失。

19.一种任务处理模型训练装置，包括：

20.一种计算设备，包括：

21.一种计算机可读存储介质，其存储有计算机程序/指令，该计算机程序/指令被处理器执行时实现权利要求1至8任意一项或者权利要求9所述方法的步骤。

22.一种计算机程序产品，包括计算机程序/指令，该计算机程序/指令被处理器执行时实现权利要求1至8任意一项或者权利要求9所述方法的步骤。

技术总结本说明书实施例提供任务处理方法及装置、任务处理模型训练方法及装置，其中所述任务处理方法包括：接收任务处理请求；对任务数据进行数据检测，在根据数据检测结果确定任务数据为非拦截数据的情况下，将任务数据输入任务处理模型，获得任务处理结果，其中，任务处理模型基于正则化损失进行模型参数调整得到，正则化损失基于任务处理模型的模型参数得到；对任务处理结果进行内容检测，在根据内容检测结果确定任务处理结果存在风险的情况下，对任务处理结果进行调整，获得目标处理结果。通过正则化损失增加了模型参数的稀疏性，减少了模型关键特征被识别和复制的风险，并通过两次检测为模型的安全性提供了双重保障。技术研发人员：周钊宇,孔令河,张园超受保护的技术使用者：浙江网商银行股份有限公司技术研发日：技术公布日：2024/7/25