一种深度学习模型算子代码的自动生成方法与流程

本发明涉及机器学习，更具体地说，本发明涉及一种深度学习模型算子代码的自动生成方法。

背景技术：

1、随着人工智能技术的快速发展，深度学习模型在各个领域得到了广泛的应用，它们通常由一系列算子（即数学运算和逻辑操作的集合）组成，构成了实现模型功能的基础。然而，随着研究的不断深入，新的算子不断被提出，以支持更复杂的模型结构和算法。传统的硬件平台适配新算子的方法主要依赖于人工开发，这种方式不仅效率有限，而且难以适应快速变化的技术需求和应对日益增长的工作量。此外，不同的硬件平台可能需要不同的算子实现方式，这进一步增加了适配工作的复杂性，随着新算子的不断涌现，人工适配的方法难以实时准确地跟踪技术发展的动态变化。

2、近年来，深度学习技术的快速发展为硬件平台的智能化提供了新的解决方案。特别是深度学习在自动适配领域的应用，以实时性、自适应性和智能化等优势，为硬件平台带来了革命性的变化。通过将深度学习技术与先进的硬件平台相结合，可以实现对算子适配过程的自动化，优化算子实现和硬件资源配置，提高整体的适配效率。

3、但是其在实际使用时，仍旧存在一些缺点，如，硬件平台常常需要适应多变的技术环境和不断变化的算子需求，传统的适配方法难以对这些因素进行综合分析和评估。此外，硬件平台的自动适配系统缺乏高度自动化，限制了处理速度和减少了操作的准确性，从而可能导致服务中断或降低人工智能应用。

技术实现思路

1、为了克服现有技术的上述缺陷，本发明提供一种深度学习模型算子代码的自动生成方法，通过以下方案，以解决上述背景技术中提出的问题。

2、为实现上述目的，本发明提供如下技术方案：

3、本发明提供了一种深度学习模型算子代码的自动生成方法，包括以下步骤：

4、s1：深度学习模型算子代码自动生成训练：用于将数据库中的若干个算子的python代码在数据库中的若干个硬件平台上进行模拟训练，生成自动生成代码的大模型x；

5、s2：待适配硬件平台信息获取：用于对待适配硬件平台进行扫描获取对应的适配信息；

6、s3：待适配算子获取信息：用于对待适配硬件平台中的待适配算子进行扫描获取对应的基础信息列表，并将待适配算子按扫描的先后顺序进行编号，依次为1，2……n；

7、s4：待适配硬件平台信息采集：用于对待适配目标硬件平台的适配信息进行采集；

8、s5：待适配算子信息采集：用于大模型x中获取的待适配算子的基本信息；

9、s6：待适配硬件平台算子信息分析：用于对大模型x中采集的算子及其对待适配目标硬件平台上生成的等效算子代码的信息进行分析，得到待适配目标硬件平台中算子代码生成的等效算子代码对应的目标综合维度指数，其中目标综合维度指数包括性能维度指数、效率维度指数以及稳定性维度指数；

10、s7：待适配硬件平台算子代码集成分析：用于将大模型x在待适配目标硬件平台中算子代码生成的等效算子代码进行集成，对待适配硬件平台算子代码集成特性指数进行分析；

11、s8：待适配硬件平台自动生成算子代码信息反馈：用于完成所有算子的适配后，将在目标硬件平台上的算子代码的生成结果和反馈待适配硬件平台算子代码集成特性的结果进行反馈。

12、优选的，所述自动生成代码的大模型x，用于将基于pytorch框架构建的神经网络模型获取的算子python代码自动生成在待适配硬件平台上的算子代码。

13、优选的，通过自动化的算子代码生成支持快速迭代开发，使用户能够快速响应性能问题并进行调整，加速模型的迭代过程。

14、优选的，所述待适配硬件平台进行扫描获取对应的适配信息，包括待适配硬件平台的处理器核心数、待适配硬件平台的内存容量以及待适配硬件平台的存储速度。

15、优选的，所述基础信息列表，包括待适配硬件平台算子对应的执行时间、待适配硬件平台算子对应的资源消耗量、待适配硬件平台算子对应的数据量以及待适配硬件平台算子的并行任务数。

16、优选的，所述待适配目标硬件平台的适配信息，具体采集过程包括以下步骤：

17、s4-1：对待适配目标硬件平台的系统兼容性信息中获取硬件平台的类型或型号；

18、s4-2：基于获取到的目标硬件平台的类型或型号中的性能监测点对应的信息参数进行均值处理，所述硬件平台的信息参数包括处理器核心数、内存容量以及存储速度，记为、以及。

19、优选的，所述大模型x中获取的待适配算子的基本信息，具体采集过程包括以下步骤：

20、s5-1：基于待适配目标硬件平台所支持算子的列表，自动识别并记录待适配目标硬件平台中使用的所有算子；

21、s5-2：将待适配目标硬件平台所支持算子通过大模型x，对结果进行处理采集；

22、s5-3：基于不支持的算子，从pytorch框架中提取它们的python代码，将这些代码输入大模型x中进行训练；

23、s5-4：采集各算子在待适配目标硬件平台上的执行时间、资源消耗量、数据量、以及并行任务数，分别记作、、以及。

24、优选的，通过采集平台信息进而不依赖于特定的硬件平台，能够适应多样化的硬件环境，包括cpu、gpu、tpu等，为不同硬件平台提供定制化的算子代码生成服务。

25、优选的，所述s6中的性能维度指数的计算模型如下：，其中，为第个算子代码在目标硬件平台上的性能维度指数，为第个算子的资源消耗量的最大值，为第个算子的数据量，为第个算子的并行处理数，为第个算子的执行时间，为全部算子的资源消耗量，为待适配目标硬件平台的处理器核心数，为是并行处理任务的比例。

26、优选的，所述s6中的效率维度指数的计算模型如下：，其中，为第个算子代码在目标硬件平台上的效率维度指数，为第个算子的执行时间，为第个算子的资源消耗量，为待适配目标硬件平台的处理器核心数，为待适配目标硬件平台的存储速度，为第个算子的并行处理数，为第个算子的数据量，、、分别为不同的效率指标的权重。

27、优选的，所述s6中的稳定性维度指数的计算模型如下：，其中，为第个算子代码在目标硬件平台上的稳定性维度指数，为待适配目标硬件平台的内存容量，为第个算子的并行处理数，为待适配目标硬件平台的存储速度，为第个算子的数据量。

28、优选的，所述s7中的集成特性指数的计算模型如下：，其中，为算子代码在目标硬件平台上的集成特性指数，为性能维度指数的影响因子，为效率维度指数的影响因子，为稳定性维度指数的影响因子，为性能维度指数，为效率维度指数，为稳定性维度指数，为性能维度指数的权重，为效率维度指数的权重，为稳定性维度指数的权重。

29、优选的，所述集成特性标准标记为，当时，表示深度学习模型算子代码自动生成信息反馈指数小于标准值，说明模型在目标硬件平台上的适配性和性能表现存在不足，需要进一步优化，系统将自动发出信号至管理人员的终端设备，提示进行必要的调整和优化措施；当时，表示深度学习模型算子代码自动生成信息反馈指数大于预设值，说明模型在目标硬件平台上的性能、效率和稳定性方面均达到或超过既定标准，具备良好的适配性，系统将继续对模型在目标硬件平台上的代码生成结果进行监控，保持对性能维度指标、效率维度指标和稳定性维度指标的采集和分析，以确保用户可以在目标平台上使用适配好的模型进行高效的推理操作，并生成适配兼容性报告。

30、优选的，通过不断的性能监测和反馈，用户可以持续对模型进行优化，提升模型在不同硬件平台上的表现，实现模型性能的最优化。

31、本发明的技术效果和优点：

32、1、本发明通过自动化的算子代码生成训练，用户可以避免手动编写和调整算子代码的繁琐工作，预训练的大模型x能够学习并掌握将python代码转换成不同硬件平台可执行代码的能力，显著提升了开发效率；

33、2、本发明通过在自动生成采集，系统通过自动识别和记录模型中使用的所有算子类型，并与目标平台支持的算子列表进行匹配，快速找出不支持的算子，从而针对性地进行适配，增强了模型在不同硬件平台上的适配性；

34、3、本发明通过对算子代码的性能、效率和稳定性进行综合评估，帮助开发者了解各个算子在目标硬件上的资源消耗量情况，从而做出更加合理的资源分配决策；

35、4、本发明通过算子代码集成确保了新生成的算子代码能够集成到目标硬件平台的推理引擎中，同时通过自动生成信息反馈提供了实时的性能监控和反馈机制；当模型性能未达标准时，系统会自动提示管理人员进行优化，而当性能表现良好时，则继续监控确保稳定运行。