深度学习模型的模型转换优化装置、方法及可读存储介质与流程

1.本发明涉及模型转换优化技术领域，尤其涉及一种深度学习模型的模型转换优化装置、方法及计算机可读存储介质。


背景技术：

2.现有的深度学习框架包括tensorflow、caffe、ncnn、pytorch等框架。在进行算法开发到算法部署的过程中，往往都会用到不同的深度学习框架。例如，使用tensorflow框架进行算法开发和调试，而到了终端部署阶段，可能会使用ncnn框架，这就存在模型转换的问题。为了确保模型转换后仍然可以保持有较好的预测准确性，需要对模型转换之前和之后进行分析，而现有的模型分析一般是由具有丰富深度学习知识的人员来进行，过度依赖分析人员的专业性，且存在耗时高、效率低下的问题，导致最终部署在终端的模型存在性能不佳的情形。


技术实现要素：

3.有鉴于此，有必要提供一种深度学习模型的模型转换优化装置、方法及计算机可读存储介质，可实现自动对模型转换之前和之后进行深入分析，最大程度避免出现转换后的模型性能不佳的情形。
4.本发明一实施方式提供一种深度学习模型的模型转换优化方法，所述方法包括：
5.对第一深度学习模型进行模型转换，得到第二深度学习模型，其中所述第一深度学习模型与所述第二深度学习模型具有不同的深度学习框架；
6.根据所述第一深度学习模型的深度学习框架得到所述第一深度学习模型的权重排列方式及根据所述第二深度学习模型的深度学习框架得到所述第二深度学习模型的权重排列方式；
7.对所述第一深度学习模型及所述第二深度学习模型进行模型量化；
8.基于所述第一深度学习模型的权重排列方式与模型量化结果，及所述第二深度学习模型的权重排列方式与模型量化结果分析得到所述第一深度学习模型与所述第二深度学习模型之间的权重相似度，以构建权重分析报告；
9.根据预设测试集分别对所述第一深度学习模型与所述第二深度学习模型进行测试，以构建模型性能估测报告；
10.根据所述权重分析报告及所述模型性能估测报告得到所述第二深度学习模型的优化建议，以对所述第二深度学习模型进行模型优化；及
11.利用优化后的第二深度学习模型对待处理数据进行处理。
12.优选地，所述对所述第一深度学习模型及所述第二深度学习模型进行模型量化的步骤包括：
13.基于所述第一深度学习模型的权重排列方式统计得到所述第一深度学习模型的权重分布信息，及根据所述第一深度学习模型的权重分布信息对所述第一深度学习模型进
行模型量化；及
14.基于所述第二深度学习模型的权重排列方式统计得到所述第二深度学习模型的权重分布信息，及根据所述第二深度学习模型的权重分布信息对所述第二深度学习模型进行模型量化。
15.优选地，所述权重分析报告还包括所述第一深度学习模型的权重分布信息及所述第二深度学习模型的权重分布信息。
16.优选地，所述根据所述第一深度学习模型的权重分布信息对所述第一深度学习模型进行模型量化的步骤包括：
17.根据所述第一深度学习模型的权重分布信息确定对所述第一深度学习模型进行模型量化的位元数与精度，以基于所确定的位元数与精度对所述第一深度学习模型进行模型量化。
18.优选地，所述根据所述第二深度学习模型的权重分布信息对所述第二深度学习模型进行模型量化的步骤包括：
19.根据所述第二深度学习模型的权重分布信息确定对所述第二深度学习模型进行模型量化的位元数与精度，以基于所确定的位元数与精度对所述第二深度学习模型进行模型量化。
20.优选地，所述预设测试集的数据包括用于对所述第一深度学习模型及所述第二深度学习模型进行模型训练的训练样本库，所述训练样本库的样本被划分为训练集与验证集。
21.优选地，所述预设测试集的数据还包括未包含在所述训练样本库中的现场样本集和/或对所述验证集进行扩增而生成的扩增样本集。
22.优选地，所述根据预设测试集分别对所述第一深度学习模型与所述第二深度学习模型进行测试，以构建模型性能估测报告的步骤包括：
23.利用所述训练样本库、所述现场样本集及所述扩增样本集对所述第一深度学习模型与所述第二深度学习模型进行测试；及
24.根据所述训练样本库得到的第一测试结果、所述现场样本集得到的第二测试结果及所述扩增样本集得到的第三测试结果构建所述模型性能估测报告。
25.本发明一实施方式提供一种深度学习模型的模型转换优化装置，所述装置包括处理器及存储器，所述存储器上存储有若干计算机程序，所述处理器用于执行存储器中存储的计算机程序时实现上述深度学习模型的模型转换优化方法的步骤。
26.本发明一实施方式还提供一种计算机可读存储介质，所述计算机可读存储介质存储有多条指令，多条所述指令可被一个或者多个处理器执行，以实现上述的深度学习模型的模型转换优化方法的步骤。
27.与现有技术相比，上述深度学习模型的模型转换优化装置、方法及计算机可读存储介质，可实现自动对深度学习模型转换之前和之后进行深入分析，分析效率高，并可基于分析结果给出模型优化建议，实现最大程度避免出现转换后的模型性能不佳的情形。
附图说明
28.图1是本发明一实施方式的模型转换优化装置的功能模块图。
29.图2是本发明一实施方式的模型转换优化程序的功能模块图。
30.图3是本发明一实施方式的模型转换优化方法的流程图。
31.主要元件符号说明
32.存储器10处理器20模型转换优化程序30转换模块101确定模块102量化模块103第一构建模块104第二构建模块105优化模块106处理模块107模型转换优化装置100
33.如下具体实施方式将结合上述附图进一步说明本发明。
具体实施方式
34.为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
35.进一步需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个
……”
限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
36.请参阅图1，为本发明模型转换优化装置较佳实施例的示意图。
37.模型转换优化装置100可以对不同框架之间的深度学习模型的模型转换给出模型优化建议，并可对转换前与转换后的模型的预测效果进行验证。模型转换优化装置100可以包括存储器10、处理器20以及存储在存储器10中并可在处理器20上运行的模型转换优化程序30。处理器20执行模型转换优化程序30时实现模型转换优化方法实施例中的步骤，例如图3所示的步骤s300～s312。或者，所述处理器20执行模型转换优化程序30时实现图2中各模块的功能，例如模块101～107。
38.模型转换优化程序30可以被分割成一个或多个模块，所述一个或者多个模块被存储在存储器10中，并由处理器20执行，以完成本发明。所述一个或多个模块可以是能够完成特定功能的一系列计算机程序指令段，所述指令段用于描述模型转换优化程序30在模型转换优化装置100中的执行过程。例如，模型转换优化程序30可以被分割成图2中的转换模块101、确定模块102、量化模块103、第一构建模块104、第二构建模块105、优化模块106及处理模块107。各模块具体功能参见下图2中各模块的功能。
39.本领域技术人员可以理解，所述示意图仅是模型转换优化装置100的示例，并不构成对模型转换优化装置100的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如模型转换优化装置100还可以包括输入输出设备、通信模块、总线等。
40.处理器20可以是中央处理单元(central processing unit，cpu)，还可以是其他通用处理器、数字信号处理器(digital signal processor，dsp)、专用集成电路(application specific integrated circuit，asic)、现成可编程门阵列(field-programmable gate array，fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者处理器20也可以是任何常规的处理器等，处理器20可以利用各种接口和总线连接模型转换优化装置100的各个部分。
41.存储器10可用于存储模型转换优化程序30和/或模块，处理器20通过运行或执行存储在存储器10内的计算机程序和/或模块，以及调用存储在存储器10内的数据，实现模型转换优化装置100的各种功能。存储器10可以包括高速随机存取存储器，还可以包括非易失性存储器，例如硬盘、内存、插接式硬盘，智能存储卡(smart media card,smc)，安全数字(secure digital,sd)卡，闪存卡(flash card)、至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
42.图2为本发明模型转换优化程序较佳实施例的功能模块图。
43.参阅图2所示，模型转换优化程序30可以包括转换模块101、确定模块102、量化模块103、第一构建模块104、第二构建模块105、优化模块106及处理模块107。在一实施方式中，上述模块可以为存储于存储器10中且可被处理器20调用执行的可程序化软件指令。可以理解的是，在其他实施方式中，上述模块也可为固化于处理器20中的程序指令或固件(firmware)。
44.转换模块101用于对第一深度学习模型进行模型转换，得到第二深度学习模型。
45.在一实施方式中，所述第一深度学习模型与所述第二深度学习模型优选具有不同的深度学习框架。比如，在模型开发阶段，使用tensorflow框架进行开发与测试得到所述第一深度学习模型，而到了终端部署阶段，需使用ncnn框架的模型来部署到终端，因而需要将具有tensorflow框架的第一深度学习模型转换为具有ncnn框架的第二深度学习模型，进而实现将所述第二深度学习模型部署到终端。所述终端可以是手机、平板电脑等电子设备。转换模块101可以基于预设深度学习模型转换工具对所述第一深度学习模型进行模型转换，得到第二深度学习模型。所述预设深度学习模型转换工具可以是现有的模型转换器，在此不作限定。
46.可以理解，所述第一深度学习模型与所述第二深度学习模型的模型功能相同，所述第一深度学习模型与所述第二深度学习模型具有的模型功能可以根据实际开发需求确定。比如，所述第一深度学习模型与所述第二深度学习模型可用于进行图像识别、语音识别、图像处理、数据挖掘、或自然语言处理等。
47.可以理解，所述第一深度学习模型与所述第二深度学习模型均可以使用训练样本库中的样本进行模型训练，该训练样本库中的样本被划分为训练集及验证集。所述训练集用于进行模型训练，所述验证集用于检验模型的性能。
48.确定模块102用于根据所述第一深度学习模型的深度学习框架得到所述第一深度
学习模型的权重排列方式及根据所述第二深度学习模型的深度学习框架得到所述第二深度学习模型的权重排列方式。
49.在一实施方式中，当完成对所述第一深度学习模型进行模型转换得到所述第二深度学习模型时，确定模块102可以根据所述第二深度学习模型的深度学习框架得到所述第二深度学习模型的权重排列方式。确定模块102还可以根据所述第一深度学习模型的深度学习框架得到所述第一深度学习模型的权重排列方式。所述第一深度学习模型的权重排列方式可以表征所述第一深度学习模型中的权重参数的排列方式，所述第二深度学习模型的权重排列方式可以表征所述第二深度学习模型中的权重参数的排列方式。
50.量化模块103用于对所述第一深度学习模型及所述第二深度学习模型进行模型量化。
51.在一实施方式中，量化模块103可以对所述第一深度学习模型及所述第二深度学习模型执行指定的量化类型的量化操作。比如，所述量化类型可以是只对模型权重进行量化，或对模型权重和模型激活输出都进行量化。
52.在一实施方式中，量化模块103可以基于所述第一深度学习模型的权重排列方式统计得到所述第一深度学习模型的权重分布信息，进而根据所述第一深度学习模型的权重分布信息对所述第一深度学习模型进行模型量化。所述第一深度学习模型的权重分布信息可以表征所述第一深度学习模型中的权重参数的分布情况。量化模块103还可以基于所述第二深度学习模型的权重排列方式统计得到所述第二深度学习模型的权重分布信息，进而根据所述第二深度学习模型的权重分布信息对所述第二深度学习模型进行模型量化。所述第二深度学习模型的权重分布信息可以表征所述第二深度学习模型中的权重参数的分布情况。
53.在一实施方式中，量化模块103根据所述第一深度学习模型的权重分布信息对所述第一深度学习模型进行模型量化的具体实现方式可以是：量化模块103可以根据所述第一深度学习模型的权重分布信息确定对所述第一深度学习模型进行模型量化的位元数(bits)与精度(比如int或float)，再基于所确定的位元数与精度对所述第一深度学习模型进行模型量化。量化模块103根据所述第二深度学习模型的权重分布信息对所述第二深度学习模型进行模型量化的具体实现方式可以是：量化模块103根据所述第二深度学习模型的权重分布信息确定对所述第二深度学习模型进行模型量化的位元数与精度，再基于所确定的位元数与精度对所述第二深度学习模型进行模型量化。
54.第一构建模块104用于基于所述第一深度学习模型的权重排列方式与模型量化结果，及所述第二深度学习模型的权重排列方式与模型量化结果分析得到所述第一深度学习模型与所述第二深度学习模型之间的权重相似度，以构建权重分析报告。
55.在一实施方式中，当量化模块103完成对所述第一深度学习模型及所述第二深度学习模型的模型量化时，第一构建模块104可以基于所述第一深度学习模型的权重排列方式与模型量化结果，及所述第二深度学习模型的权重排列方式与模型量化结果分析得到所述第一深度学习模型与所述第二深度学习模型之间的权重相似度，进而可以基于分析得到的权重相似度来构建所述权重分析报告。
56.在一实施方式中，所述权重分析报告还可以包括所述第一深度学习模型的权重分布信息及所述第二深度学习模型的权重分布信息。
57.第二构建模块105根据预设测试集分别对所述第一深度学习模型与所述第二深度学习模型进行测试，以构建模型性能估测报告。
58.在一实施方式中，所述模型性能估测报告包括所述第一深度学习模型的模型预测性能的测试结果及所述第二深度学习模型的模型预测性能的测试结果。所述预设测试集的数据可以包括用于对所述第一深度学习模型及所述第二深度学习模型进行模型训练的训练样本库，所述训练样本库的样本被划分为训练集与验证集。
59.举例而言，所述第一深度学习模型与所述第二深度学习模型的功能为图像识别，训练样本库包括1000张图像样本，其中训练集包括800张图像样本，验证集包括200张图像样本。在所述第一深度学习模型的模型训练过程中，利用训练集的图像样本对所述第一深度学习模型进行训练，利用验证集的图像样本校验训练后的第一深度学习模型的预测效果。在所述第二深度学习模型的模型训练过程中，同样利用训练集的图像样本对所述第二深度学习模型进行训练，利用验证集的图像样本校验训练后的第二深度学习模型的预测效果。所述预设测试集包括训练样本库的所有图像样本，即第二构建模块105利用1000张图像样本对所述第一深度学习模型进行测试及利用1000张图像样本对所述第二深度学习模型进行测试，以根据测试结果来构建所述模型性能估测报告。
60.在一实施方式中，所述预设测试集的数据还可以包括未包含在所述训练样本库中的现场样本集，即模型在训练过程中未接触过的样本数据。当所述第二深度学习模型部署在所述终端时，所述现场样本集可以是指终端在实际测试使用场景中获取的样本数据。比如，所述第二深度学习模型是用来进行人脸识别的人脸识别模型，所述现场样本集可以是终端在被使用过程中采集到的人脸图像。
61.在一实施方式中，所述预设测试集的数据还可以包括对所述验证集进行扩增而生成的扩增样本集。比如，可以对所述验证集中的样本进行翻转、镜像等操作，进而得到所述扩增样本集。
62.举例而言，所述验证集可以200张图像样本，通过对验证集中的多张图像样本进行平移、翻转、旋转、调整对比度、高斯噪声、颜色变换等操作得到2000张图像样本，该2000张图像样本即构成所述扩增样本集。
63.在一实施方式中，第二构建模块105根据预设测试集分别对所述第一深度学习模型与所述第二深度学习模型进行测试，以构建模型性能估测报告的具体方式可以包括：第二构建模块105利用所述训练样本库、所述现场样本集及所述扩增样本集对所述第一深度学习模型与所述第二深度学习模型进行测试，再根据所述训练样本库得到的第一测试结果、所述现场样本集得到的第二测试结果及所述扩增样本集得到的第三测试结果构建所述模型性能估测报告。
64.优化模块106用于根据所述权重分析报告及所述模型性能估测报告得到所述第二深度学习模型的优化建议，以对所述第二深度学习模型进行模型优化。
65.在一实施方式中，当得到所述权重分析报告及所述模型性能估测报告时，优化模块106可以根据所述权重分析报告及所述模型性能估测报告得到所述第二深度学习模型的优化建议，以对所述第二深度学习模型进行模型优化，进而可以提高部署在所述终端的第二深度学习模型的模型预测准确性，节省模型所占用的运算资源。
66.在一实施方式中，当优化模块106根据所述权重分析报告及所述模型性能估测报
告得到所述第二深度学习模型的优化建议时，模型开发人员或者终端使用者可以控制所述第二深度学习模型执行所述优化建议。
67.处理模块107用于利用优化后的第二深度学习模型对待处理数据进行处理。
68.在一实施方式中，所述待处理数据可以是指部署有所述第二深度学习模型的终端在实际使用场景中获取并输入至所述第二深度学习模型的输入数据。当所述第二深度学习模型执行所述优化建议后，处理模块107可以利用优化后的第二深度学习模型对所述待处理数据进行处理，以得到所述待处理数据对应的处理结果。
69.图3为本发明一实施方式中深度学习模型的模型转换优化方法的流程图。根据不同的需求，所述流程图中步骤的顺序可以改变，某些步骤可以省略。
70.步骤s300，对第一深度学习模型进行模型转换，得到第二深度学习模型。
71.在一实施方式中，所述第一深度学习模型与所述第二深度学习模型优选具有不同的深度学习框架。比如，在模型开发阶段，使用tensorflow框架进行开发与测试得到所述第一深度学习模型，而到了终端部署阶段，需使用ncnn框架的模型来部署到终端，因而需要将具有tensorflow框架的第一深度学习模型转换为具有ncnn框架的第二深度学习模型，进而实现将所述第二深度学习模型部署到终端。所述终端可以是手机、平板电脑等电子设备。可以基于预设深度学习模型转换工具对所述第一深度学习模型进行模型转换，得到第二深度学习模型。所述预设深度学习模型转换工具可以是现有的模型转换器，在此不作限定。
72.可以理解，所述第一深度学习模型与所述第二深度学习模型的模型功能相同，所述第一深度学习模型与所述第二深度学习模型具有的模型功能可以根据实际开发需求确定。比如，所述第一深度学习模型与所述第二深度学习模型可用于进行图像识别、语音识别、图像处理、数据挖掘、或自然语言处理等。
73.步骤s302，根据所述第一深度学习模型的深度学习框架得到所述第一深度学习模型的权重排列方式及根据所述第二深度学习模型的深度学习框架得到所述第二深度学习模型的权重排列方式。
74.在一实施方式中，当完成对所述第一深度学习模型进行模型转换得到所述第二深度学习模型时，可以根据所述第二深度学习模型的深度学习框架得到所述第二深度学习模型的权重排列方式。还可以根据所述第一深度学习模型的深度学习框架得到所述第一深度学习模型的权重排列方式。所述第一深度学习模型的权重排列方式可以表征所述第一深度学习模型中的权重参数的排列方式，所述第二深度学习模型的权重排列方式可以表征所述第二深度学习模型中的权重参数的排列方式。
75.步骤s304，对所述第一深度学习模型及所述第二深度学习模型进行模型量化。
76.在一实施方式中，可以对所述第一深度学习模型及所述第二深度学习模型执行指定的量化类型的量化操作。比如，所述量化类型可以是只对模型权重进行量化，或对模型权重和模型激活输出都进行量化。
77.在一实施方式中，可以基于所述第一深度学习模型的权重排列方式统计得到所述第一深度学习模型的权重分布信息，进而根据所述第一深度学习模型的权重分布信息对所述第一深度学习模型进行模型量化。所述第一深度学习模型的权重分布信息可以表征所述第一深度学习模型中的权重参数的分布情况。还可以基于所述第二深度学习模型的权重排列方式统计得到所述第二深度学习模型的权重分布信息，进而根据所述第二深度学习模型
的权重分布信息对所述第二深度学习模型进行模型量化。所述第二深度学习模型的权重分布信息可以表征所述第二深度学习模型中的权重参数的分布情况。
78.在一实施方式中，根据所述第一深度学习模型的权重分布信息对所述第一深度学习模型进行模型量化的步骤可以包括：根据所述第一深度学习模型的权重分布信息确定对所述第一深度学习模型进行模型量化的位元数(bits)与精度(比如int或float)，再基于所确定的位元数与精度对所述第一深度学习模型进行模型量化。根据所述第二深度学习模型的权重分布信息对所述第二深度学习模型进行模型量化的步骤可以包括：根据所述第二深度学习模型的权重分布信息确定对所述第二深度学习模型进行模型量化的位元数与精度，再基于所确定的位元数与精度对所述第二深度学习模型进行模型量化。
79.步骤s306，基于所述第一深度学习模型的权重排列方式与模型量化结果，及所述第二深度学习模型的权重排列方式与模型量化结果分析得到所述第一深度学习模型与所述第二深度学习模型之间的权重相似度，以构建权重分析报告。
80.在一实施方式中，当完成对所述第一深度学习模型及所述第二深度学习模型的模型量化时，可以基于所述第一深度学习模型的权重排列方式与模型量化结果，及所述第二深度学习模型的权重排列方式与模型量化结果分析得到所述第一深度学习模型与所述第二深度学习模型之间的权重相似度，进而可以基于分析得到的权重相似度来构建所述权重分析报告。
81.在一实施方式中，所述权重分析报告还可以包括所述第一深度学习模型的权重分布信息及所述第二深度学习模型的权重分布信息。
82.步骤s308，根据预设测试集分别对所述第一深度学习模型与所述第二深度学习模型进行测试，以构建模型性能估测报告。
83.在一实施方式中，所述模型性能估测报告包括所述第一深度学习模型的模型预测性能的测试结果及所述第二深度学习模型的模型预测性能的测试结果。所述预设测试集的数据可以包括用于对所述第一深度学习模型及所述第二深度学习模型进行模型训练的训练样本库，所述训练样本库的样本被划分为训练集与验证集。
84.举例而言，所述第一深度学习模型与所述第二深度学习模型的功能为图像识别，训练样本库包括1000张图像样本，其中训练集包括800张图像样本，验证集包括200张图像样本。在所述第一深度学习模型的模型训练过程中，利用训练集的图像样本对所述第一深度学习模型进行训练，利用验证集的图像样本校验训练后的第一深度学习模型的预测效果。在所述第二深度学习模型的模型训练过程中，同样利用训练集的图像样本对所述第二深度学习模型进行训练，利用验证集的图像样本校验训练后的第二深度学习模型的预测效果。所述预设测试集包括训练样本库的所有图像样本，即利用1000张图像样本对所述第一深度学习模型进行测试及利用1000张图像样本对所述第二深度学习模型进行测试，以根据测试结果来构建所述模型性能估测报告。
85.在一实施方式中，所述预设测试集的数据还可以包括未包含在所述训练样本库中的现场样本集，即模型在训练过程中未接触过的样本数据。当所述第二深度学习模型部署在所述终端时，所述现场样本集可以是指终端在实际测试使用场景中获取的样本数据。比如，所述第二深度学习模型是用来进行人脸识别的人脸识别模型，所述现场样本集可以是终端在被使用过程中采集到的人脸图像。
86.在一实施方式中，所述预设测试集的数据还可以包括对所述验证集进行扩增而生成的扩增样本集。比如，可以对所述验证集中的样本进行翻转、镜像等操作，进而得到所述扩增样本集。
87.举例而言，所述验证集可以200张图像样本，通过对验证集中的多张图像样本进行平移、翻转、旋转、调整对比度、高斯噪声、颜色变换等操作得到2000张图像样本，该2000张图像样本即构成所述扩增样本集。
88.在一实施方式中，根据预设测试集分别对所述第一深度学习模型与所述第二深度学习模型进行测试，以构建模型性能估测报告的步骤可以包括：利用所述训练样本库、所述现场样本集及所述扩增样本集对所述第一深度学习模型与所述第二深度学习模型进行测试，再根据所述训练样本库得到的第一测试结果、所述现场样本集得到的第二测试结果及所述扩增样本集得到的第三测试结果构建所述模型性能估测报告。
89.步骤s310，根据所述权重分析报告及所述模型性能估测报告得到所述第二深度学习模型的优化建议，以对所述第二深度学习模型进行模型优化。
90.在一实施方式中，当得到所述权重分析报告及所述模型性能估测报告时，可以根据所述权重分析报告及所述模型性能估测报告得到所述第二深度学习模型的优化建议，以对所述第二深度学习模型进行模型优化，进而可以提高部署在所述终端的第二深度学习模型的模型预测准确性，节省模型所占用的运算资源。
91.在一实施方式中，当根据所述权重分析报告及所述模型性能估测报告得到所述第二深度学习模型的优化建议时，模型开发人员或者终端使用者可以控制所述第二深度学习模型执行所述优化建议。
92.步骤s312，利用优化后的第二深度学习模型对待处理数据进行处理。
93.在一实施方式中，所述待处理数据可以是指部署有所述第二深度学习模型的终端在实际使用场景中获取并输入至所述第二深度学习模型的输入数据。当所述第二深度学习模型执行所述优化建议后，可以利用优化后的第二深度学习模型对所述待处理数据进行处理，以得到所述待处理数据对应的处理结果。
94.上述深度学习模型的模型转换优化装置、方法及计算机可读存储介质，可实现自动对深度学习模型转换之前和之后进行深入分析，分析效率高，并可基于分析结果给出模型优化建议，实现最大程度避免出现转换后的模型性能不佳的情形。
95.对本领域的技术人员来说，可以根据本发明的发明方案和发明构思结合生产的实际需要做出其他相应的改变或调整，而这些改变和调整都应属于本发明所公开的范围。