芯片、指令处理方法、装置、板卡以及存储介质与流程

本公开涉及计算机，具体而言，涉及一种芯片、指令处理方法、装置、板卡以及存储介质。

背景技术：

1、随着云计算和人工智能ai的飞速发展，ai芯片以及图像处理器(graphicsprocessing unit，gpu)等芯片的性能也逐渐提高，其性能远超一般用户的使用需求。因此，在云端可以通过虚拟化技术将一张芯片分享给多个用户，以充分利用芯片的算力。在相关的技术方案中，在通过一张芯片同时处理多个用户端发出的命令的过程中，往往按照处理次序依次处理，然而，这种处理方式通常存在对多用户的命令流进行切换执行的过程中切换速度较慢的问题，从而响应速度较慢，并影响了用户的使用体验。

技术实现思路

1、本公开实施例至少提供一种芯片、指令处理方法、装置、板卡以及存储介质。

2、第一方面，本公开实施例提供了一种芯片，包括：控制器和命令流处理器；

3、所述控制器，用于在检测到为第一用户分配的当前时间片结束的情况下，生成目标结束信号；其中，所述当前时间片用于指示所述第一用户占用所述芯片中对应硬件资源的时间；

4、所述命令流处理器，用于在接收到所述目标结束信号之后，获取第一日志信息；其中，所述第一日志信息用于指示为所述第一用户下发的待执行命令流中未执行完成的第一命令流的信息；以及基于所述第一日志信息确定所述第一命令流，并将所述第一命令流存储至内存；以及恢复执行所述当前时间片的下一个时间片所对应的第二用户未执行完成的命令流。

5、一种可选的实施方式中，所述命令流处理器还用于：

6、在所述内存中查找与所述第二用户相匹配的第二命令流；其中，所述第二命令流用于指示为所述第二用户下发的全部待执行命令流中未执行完成的命令流；

7、基于所述第二命令流的命令执行状态，对所述第二命令流执行匹配的命令流恢复操作；其中，所述命令执行状态用于指示该第二命令流是否处于执行中断状态，所述命令流恢复操作为恢复执行所述第二命令流的操作。

8、一种可选的实施方式中，每个所述第二命令流中包含多个第一命令包，所述命令流处理器还用于：

9、在基于所述命令执行状态确定所述第二命令流的多个第一命令包均未执行的情况下，将所述第二命令流存储至命令存储块中；

10、和/或

11、在基于所述命令执行状态确定所述第二命令流的部分第一命令包未执行的情况下，向所述芯片的执行单元发送未执行的部分第一命令包。

12、一种可选的实施方式中，所述命令流处理器，还用于：

13、在检测到所述芯片中执行单元发送的每个第二命令包的命令完成信息的情况下，将所述第一命令流存储至所述内存，其中，所述第二命令包为在所述当前时间片结束之前向所述执行单元分发的所属于所述第一用户的待执行命令流中的命令包。

14、一种可选的实施方式中，所述命令流处理器包含用于处理命令流的第一处理器，所述目标结束信号包括执行结束标识；

15、所述控制器，还用于在检测到为第一用户分配的当前时间片结束之后，生成执行结束标识，并在第一寄存器中写入所述执行结束标识；

16、所述第一处理器，用于在所述第一寄存器中检测到所述执行结束标识之后，获取所述第一日志信息，并停止向所述芯片的执行单元分发待执行命令流。

17、一种可选的实施方式中，所述命令流处理器包含用于处理待执行命令流的第一处理器，所述第一处理器中包含多个命令存储块；所述命令流处理器，还用于：

18、在未接收到所述目标结束信号的情况下，检测所述多个命令存储块是否处于空闲状态；

19、在检测到所述多个命令存储块处于空闲状态的情况下，在所述芯片的内存中查找所属于所述第一用户相匹配的待执行命令流，并将查找到的所述相匹配的待执行命令流存储至所述多个命令存储块中。

20、一种可选的实施方式中，所述命令流处理器，还用于：

21、在所述芯片的内存中未查找到所属于所述第一用户的待执行命令流的情况下，返回执行确定所述当前时间片的下一个时间片所对应的第二用户，以及在所述芯片的内存中查找与所述第二用户相匹配的第二命令流，基于所述第二命令流的命令执行状态，对所述第二命令流执行匹配的命令流恢复操作的步骤。

22、第二方面，本公开实施例还提供一种指令处理方法，包括：

23、在检测到为第一用户分配的当前时间片结束的情况下，获取第一日志信息；其中，所述第一日志信息用于指示为所述第一用户下发的待执行命令流中未执行完成的第一命令流的信息，所述当前时间片用于指示所述第一用户占用所述芯片中对应硬件资源的时间；

24、基于所述第一日志信息确定所述第一命令流，并将所述第一命令流发送至内存进行保存；

25、恢复执行所述当前时间片的下一个时间片所对应的第二用户未执行完成的命令流。

26、第三方面，本公开实施例还提供一种指令处理装置，包括：

27、第一确定单元，用于在检测到为第一用户分配的当前时间片结束的情况下，获取第一日志信息；其中，所述第一日志信息用于指示为所述第一用户下发的待执行命令流中未执行完成的第一命令流的信息，所述当前时间片用于指示所述第一用户占用对应硬件资源的时间；

28、第二确定单元，用于基于所述第一日志信息确定所述第一命令流，并将所述第一命令流发送至内存进行保存；

29、执行单元，用于恢复执行所述当前时间片的下一个时间片所对应的第二用户未执行完成的命令流。

30、第四方面，本公开实施例还提供一种板卡，包括如第一方面至第一方面中任意一项所述的芯片。

31、第五方面，本公开实施例还提供一种计算机可读存储介质，该计算机可读存储介质上存储有计算机程序，该计算机程序被处理器运行时执行第二方面所述的指令处理方法的步骤。

32、本公开实施例提供的芯片、指令处理方法、装置、板卡以及存储介质。在本公开实施例中，可以预先设置多个时间片，在每个时间片中通过芯片处理一个所属于相同用户的待执行命令流。在检测到为第一用户分配的当前时间片结束的情况下，可以在与该第一用户相匹配的待执行命令流中存在未执行完成的第一命令流的情况下，基于该第一命令流确定第一日志信息，并基于该第一日志信息确定第一命令流，以及将该第一命令流与第一日志信息发送至内存中进行保存。通过该处理方式，能够实现对第一用户所对应的第一命令流进行保护，并恢复执行当前时间片的下一个时间片所对应的第二用户未执行完成的命令流，从而实现通过芯片中的控制器和命令流处理器实现不同时间片对应用户的切换，进而解决现有技术中用户切换时间过程的问题，提高了切换效率。

33、为使本公开的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。

技术特征：

1.一种芯片，其特征在于，包括：控制器和命令流处理器；

2.根据权利要求1所述的芯片，其特征在于，所述命令流处理器还用于：

3.根据权利要求2所述的芯片，其特征在于，每个所述第二命令流中包含多个第一命令包，所述命令流处理器还用于：

4.根据权利要求1至3中任一项所述的芯片，其特征在于，所述命令流处理器，还用于：

5.根据权利要求1至4中任一项所述的芯片，其特征在于，所述命令流处理器包含用于处理命令流的第一处理器，所述目标结束信号包括执行结束标识；

6.根据权利要求2至5中任一项所述的芯片，其特征在于，所述命令流处理器包含用于处理待执行命令流的第一处理器，所述第一处理器中包含多个命令存储块；所述命令流处理器，还用于：

7.根据权利要求6所述的芯片，其特征在于，所述命令流处理器，还用于：

8.一种指令处理方法，其特征在于，包括：

9.一种指令处理装置，其特征在于，包括：

10.一种板卡，其特征在于，包括如权利要求1至7中任意一项所述的芯片。

11.一种计算机可读存储介质，其特征在于，该计算机可读存储介质上存储有计算机程序，该计算机程序被处理器运行时执行如权利要求8所述的指令处理方法的步骤。

技术总结本公开提供了一种芯片、指令处理方法、装置、板卡以及存储介质，其中，该芯片，包括：所述控制器，用于在检测到为第一用户分配的当前时间片结束的情况下，生成目标结束信号；其中，所述当前时间片用于指示所述第一用户占用所述芯片中对应硬件资源的时间；所述命令流处理器，用于在接收到所述目标结束信号之后，获取第一日志信息；其中，所述第一日志信息用于指示为所述第一用户下发的待执行命令流中未执行完成的第一命令流的信息；以及基于所述第一日志信息确定所述第一命令流，并将所述第一命令流存储至内存；以及恢复执行所述当前时间片的下一个时间片所对应的第二用户未执行完成的命令流。技术研发人员：张国栋,冷祥纶,周琳,刘晨受保护的技术使用者：上海阵量智能科技有限公司技术研发日：技术公布日：2024/7/29