指令序列的生成方法、装置、电子设备和存储介质与流程

本公开涉及神经网络模型编译技术，尤其是一种指令序列的生成方法、装置、电子设备和存储介质。

背景技术：

1、在编译器中，通常将待编译神经网络模型转换成一层完全不绑定或较少绑定硬件信息的中间表示(或称计算图)，以便于进行一些通用的转换和优化。这些中间表示最终还需要被映射到实际硬件上，即将计算图转换为硬件可执行的指令序列，完成指令序列的生成。如何获得最优的指令序列成为亟需解决的技术问题。

2、％n@@

3、为了解决上述技术问题，本公开的实施例提供了一种指令序列的生成方法、装置、电子设备和存储介质，可以获得性能最优或较优的指令序列，提高指令序列的性能。

4、本公开的第一个方面，提供了一种指令序列的生成方法，包括：确定待编译神经网络模型对应的计算图和待执行所述指令序列的硬件的资源状态信息；对所述计算图进行切分，确定多个计算子图；基于各所述计算子图和所述资源状态信息，生成各所述计算子图分别对应的指令子序列；基于各所述指令子序列，确定所述待编译神经网络模型对应的目标指令序列。

5、本公开的第二个方面，提供了一种指令序列的生成装置，包括：第一处理模块，用于确定待编译神经网络模型对应的计算图和待执行所述指令序列的硬件的资源状态信息；第二处理模块，用于对所述计算图进行切分，确定多个计算子图；第三处理模块，用于基于各所述计算子图和所述资源状态信息，生成各所述计算子图分别对应的指令子序列；第四处理模块，用于基于各所述指令子序列，确定所述待编译神经网络模型对应的目标指令序列。

6、本公开的第三个方面，提供一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行本公开上述任一实施例所述的指令序列的生成方法。

7、本公开的第四个方面，提供一种电子设备，所述电子设备包括：处理器；用于存储所述处理器可执行指令的存储器；所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现本公开上述任一实施例所述的指令序列的生成方法。

8、本公开的第五个方面，提供了一种计算机程序产品，当所述计算机程序产品中的指令被处理器执行时，执行本公开上述任一实施例提供的指令序列的生成方法。

9、基于本公开上述实施例提供的指令序列的生成方法、装置、电子设备和存储介质，通过将待编译神经网络模型对应的计算图切分为多个计算子图，便于按照计算子图对硬件的资源占用情况确定最优性能的指令子序列，进而基于各计算子图的最优指令子序列得到待编译神经网络模型对应的目标指令序列，可以有效提高指令序列的整体执行性能。

技术实现思路

技术特征：

1.一种指令序列的生成方法，包括：

2.根据权利要求1所述的方法，其中，所述基于各所述计算子图和所述资源状态信息，生成各所述计算子图分别对应的指令子序列，包括：

3.根据权利要求2所述的方法，其中，所述计算子图包括至少一个计算任务，所述基于所述当前计算子图、所述当前资源状态信息和所述当前动作集，确定所述当前计算子图对应的当前指令子序列，包括：

4.根据权利要求3所述的方法，其中，所述基于所述当前动作信息，确定当前指令和所述当前指令对应的资源配置信息，包括：

5.根据权利要求3所述的方法，其中，所述基于所述当前计算子图、所述当前资源状态信息和所述当前计算子图的各计算任务的完成状态信息，从所述当前动作集中确定当前动作信息，包括：

6.根据权利要求5所述的方法，其中，所述策略网络通过以下方式获得：

7.根据权利要求6所述的方法，其中，所述基于所述计算图和所述资源状态信息，对待训练策略网络进行训练，获得训练好的所述策略网络，包括：

8.一种指令序列的生成装置，包括：

9.一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述权利要求1-7任一所述的方法。

10.一种电子设备，所述电子设备包括：

技术总结本公开实施例公开了一种指令序列的生成方法、装置、电子设备和存储介质，其中，方法包括：确定待编译神经网络模型对应的计算图和待执行指令序列的硬件的资源状态信息；对计算图进行切分，确定多个计算子图；基于各计算子图和资源状态信息，生成各计算子图分别对应的指令子序列；基于各指令子序列，确定待编译神经网络模型对应的目标指令序列。本公开实施例可以有效提高指令序列的整体执行性能。技术研发人员：邓博文,沈碧螺受保护的技术使用者：北京地平线信息技术有限公司技术研发日：技术公布日：2024/9/2