隐私计算算法的运行评估方法、装置、设备和存储介质与流程

本申请一个或多个实施例涉及人工智能，尤其涉及一种隐私计算算法的运行评估方法、装置、设备和存储介质。

背景技术：

1、隐私计算是一种保护数据隐私的技术，其目的是在计算过程中保护数据隐私。它可以在不暴露原始数据的情况下进行数据分析和计算。隐私计算通常包括数据加密、隐私保护协议、匿名化技术、安全多方计算等部分。其中，数据加密指的是采用各种加密算法对数据进行加密。隐私保护协议指的是通过差分隐私、同态加密等协议来确保数据的隐私性和安全性。匿名化技术指的是通过对数据进行匿名化处理，将数据与个人身份分离。安全多方计算指的是多个数据提供方在不公开各自私有数据的情况下进行计算。

2、在隐私计算的场景下，经常会面临多方合作。在通过多方合作实现的隐私计算算法中，原始数据不出域，而是对原始数据进行各种加密，并基于密文数据进行计算，同时使用各种协议，并基于密文数据进行交互等。这些数据处理过程都是黑盒，即输入和输出是可知的，但内部运行逻辑对用户来说是不可见的，因此隐私计算算法有没有按照约定的方式运行，隐私计算算法的运行过程中数据有没有恶意大规模增加来碰撞合作方数据，这些问题通常较难加以分析和判断。在这种情况下，如何针对隐私计算算法的运行进行评估，也就成为了亟待解决的问题。

技术实现思路

1、本申请一个或多个实施例提供技术方案如下：

2、本申请提供一种基于预训练的模型构建方法，所述方法包括：

3、构建训练样本；其中，所述训练样本包括与预设的隐私计算算法对应的算法运行信息，以及用于运行所述隐私计算算法的设备的设备配置信息；所述训练样本被标注了所述隐私计算算法在所述设备上的运行情况；

4、基于所述训练样本，对大语言模型的基础模型进行有监督的微调训练，得到大语言模型的服务模型；其中，所述大语言模型的服务模型用于基于与待评估的隐私计算算法对应的算法运行信息，以及用于运行所述隐私计算算法的设备的设备配置信息，预测所述隐私计算算法在所述设备上的运行情况。

5、本申请还提供一种隐私计算算法的运行评估方法，所述方法包括：

6、获取与待评估的隐私计算算法对应的算法运行信息，以及用于运行所述隐私计算算法的设备的设备配置信息；

7、将所述算法运行信息和所述设备配置信息输入大语言模型的服务模型，以由所述大语言模型的服务模型基于所述算法运行信息和所述设备配置信息，预测所述隐私计算算法在所述设备上的运行情况；其中，所述大语言模型的服务模型为基于训练样本对大语言模型的基础模型进行有监督的微调训练得到的模型；所述训练样本包括与预设的隐私计算算法对应的算法运行信息，以及用于运行所述隐私计算算法的设备的设备配置信息；所述训练样本被标注了所述隐私计算算法在所述设备上的运行情况；

8、获取由所述大语言模型的服务模型预测的所述隐私计算算法在所述设备上的运行情况，并输出所述运行情况。

9、本申请还提供一种基于预训练的模型构建装置，所述装置包括：

10、构建模块，构建训练样本；其中，所述训练样本包括与预设的隐私计算算法对应的算法运行信息，以及用于运行所述隐私计算算法的设备的设备配置信息；所述训练样本被标注了所述隐私计算算法在所述设备上的运行情况；

11、训练模块，基于所述训练样本，对大语言模型的基础模型进行有监督的微调训练，得到大语言模型的服务模型；其中，所述大语言模型的服务模型用于基于与待评估的隐私计算算法对应的算法运行信息，以及用于运行所述隐私计算算法的设备的设备配置信息，预测所述隐私计算算法在所述设备上的运行情况。

12、本申请还提供一种隐私计算算法的运行评估装置，所述装置包括：

13、获取模块，获取与待评估的隐私计算算法对应的算法运行信息，以及用于运行所述隐私计算算法的设备的设备配置信息；

14、预测模块，将所述算法运行信息和所述设备配置信息输入大语言模型的服务模型，以由所述大语言模型的服务模型基于所述算法运行信息和所述设备配置信息，预测所述隐私计算算法在所述设备上的运行情况；其中，所述大语言模型的服务模型为基于训练样本对大语言模型的基础模型进行有监督的微调训练得到的模型；所述训练样本包括与预设的隐私计算算法对应的算法运行信息，以及用于运行所述隐私计算算法的设备的设备配置信息；所述训练样本被标注了所述隐私计算算法在所述设备上的运行情况；

15、输出模块，获取由所述大语言模型的服务模型预测的所述隐私计算算法在所述设备上的运行情况，并输出所述运行情况。

16、本申请还提供一种电子设备，包括：

17、处理器；

18、用于存储处理器可执行指令的存储器；

19、其中，所述处理器通过运行所述可执行指令以实现如上述任一项所述方法的步骤。

20、本申请还提供一种计算机可读存储介质，其上存储有计算机指令，该指令被处理器执行时实现如上述任一项所述方法的步骤。

21、在上述技术方案中，可以使用通过微调训练得到的用于隐私计算算法的运行评估的大语言模型的服务模型，将与待评估的隐私计算算法对应的算法运行信息，以及用于运行该隐私计算算法的设备的设备配置信息输入该大语言模型的服务模型，以由该大语言模型的服务模型基于该算法运行信息和该设备配置信息，预测该隐私计算算法在该设备上的运行情况，并输出由该大语言模型的服务模型预测的运行情况。这样，由于可以直接使用通过微调训练得到的用于隐私计算算法的运行评估的大语言模型的服务模型，来针对待评估的隐私计算算法的运行进行评估，也就可以降低针对隐私计算算法的运行进行评估的难度，并且可以保证隐私计算算法的运行评估的结果准确度和多样性。

技术特征：

1.一种基于预训练的模型构建方法，所述方法包括：

2.根据权利要求1所述的方法，所述算法运行信息包括：算法协议，算法描述，算法运行过程中用于计算的数据的数据规模；所述设备配置信息包括：设备算力，设备的数据传输能力；所述运行情况包括：算法运行耗时。

3.根据权利要求1所述的方法，所述算法运行信息包括：算法协议，算法描述，算法运行过程中用于计算的数据的数据规模，算法运行过程中产生的运行日志；所述设备配置信息包括：设备算力，设备的数据传输能力；所述运行情况包括：指示算法运行过程中的计算行为是否符合预期的诊断结果。

4.根据权利要求1所述的方法，所述隐私计算算法为基于多个数据提供方持有的密文形式的数据进行隐私计算的安全多方计算算法。

5.一种隐私计算算法的运行评估方法，所述方法包括：

6.根据权利要求5所述的方法，所述算法运行信息包括：算法协议，算法描述，算法运行过程中用于计算的数据的数据规模；所述设备配置信息包括：设备算力，设备的数据传输能力；所述运行情况包括：算法运行耗时。

7.根据权利要求5所述的方法，所述算法运行信息包括：算法协议，算法描述，算法运行过程中用于计算的数据的数据规模，算法运行过程中产生的运行日志；所述设备配置信息包括：设备算力，设备的数据传输能力；所述运行情况包括：指示算法运行过程中的计算行为是否符合预期的诊断结果。

8.根据权利要求7所述的方法，所述基于所述算法运行信息和所述设备配置信息，预测所述隐私计算算法在所述设备上的运行情况，包括：

9.根据权利要求7所述的方法，所述基于所述算法运行信息和所述设备配置信息，预测所述隐私计算算法在所述设备上的运行情况，包括：

10.根据权利要求5所述的方法，所述隐私计算算法为基于多个数据提供方持有的密文形式的数据进行隐私计算的安全多方计算算法。

11.一种基于预训练的模型构建装置，所述装置包括：

12.一种隐私计算算法的运行评估装置，所述装置包括：

13.一种电子设备，包括：

14.一种计算机可读存储介质，其上存储有计算机指令，该指令被处理器执行时实现如权利要求1至10中任一项所述的方法。

技术总结本申请一个或多个实施例提供一种隐私计算算法的运行评估方法、装置、设备和存储介质，该方法包括：获取与待评估的隐私计算算法对应的算法运行信息和用于运行隐私计算算法的设备的设备配置信息；将算法运行信息和设备配置信息输入大语言模型的服务模型，以由大语言模型的服务模型基于算法运行信息和设备配置信息预测隐私计算算法在设备上的运行情况；大语言模型的服务模型为基于包括算法运行信息和设备配置信息，且被标注了运行情况的训练样本，对大语言模型的基础模型进行有监督的微调训练得到的模型；获取由大语言模型的服务模型预测的隐私计算算法在设备上的运行情况，并输出该运行情况。技术研发人员：董佳佳,张启超,殷山受保护的技术使用者：蚂蚁区块链科技（上海）有限公司技术研发日：技术公布日：2024/8/27