能耗检测方法、装置、计算机设备和存储介质与流程

本技术涉及软件开发，特别是涉及一种能耗检测方法、装置、计算机设备和存储介质。

背景技术：

1、在复杂场景、海量数据、超大模型的需求背景下，各个行业对于人工智能算力设备的算力需求迫切增长。为更好的评估人工智能算力设备的算力性能，需要对人工智能算力设备的能耗指标进行评估，以实现结合能耗指标更准确的评估人工智能算力设备的算力性能。

2、但是，现有技术中评估人工智能算力设备的准确性较低，无法准确反应人工智能算力设备的能耗指标。

技术实现思路

1、基于此，有必要针对上述技术问题，提供一种能够准确反应人工智能算力设备的能耗指标的能耗检测方法、装置、计算机设备和存储介质。

2、第一方面，本技术提供了一种能耗检测方法。所述方法包括：

3、对部署目标算力任务的算力设备进行压力测试，得到所述算力设备在不同负载等级下的目标压测值；其中，执行所述目标算力任务的算力单元包括所述算力设备中的图形处理器gpu和/或神经网络处理器npu；

4、根据不同负载等级下的目标压测值，对所述算力设备进行功耗测试，得到所述算力设备在不同负载等级下的功耗数据和吞吐量数据；

5、根据所述算力设备在不同负载等级下的功耗数据和吞吐量数据，确定所述算力设备的能效指标。

6、在其中一个实施例中，所述根据所述算力设备在不同负载等级下的功耗数据和吞吐量数据，确定所述算力设备的能效指标，包括：

7、将所述算力设备在不同负载等级下的功耗数据之和，作为第一数值；

8、将所述算力设备在不同负载等级下的吞吐量数据之和，作为第二数值；

9、将所述第一数值和所述第二数值之间的比值，作为所述算力设备的能效指标。

10、在其中一个实施例中，所述根据所述算力设备在不同负载等级下的功耗数据和吞吐量数据，确定所述算力设备的能效指标，包括：

11、确定各负载等级对应的影响权重；

12、将所述算力设备在每一负载等级下的功耗数据和吞吐量数据之比，作为对应负载等级下的第三数值；

13、采用各负载等级对应的影响权重，对对应负载等级下的第三数值进行加权处理，得到对应负载等级下的加权数值；

14、将各负载等级下的加权数值之和，作为所述算力设备的能效指标。

15、在其中一个实施例中，所述对部署目标算力任务的算力设备进行压力测试，得到所述算力设备在不同负载等级下的目标压测值，包括：

16、对部署目标算力任务的算力设备进行压力测试，得到标准压测值；

17、根据标准压测值、预设的负载等级数量，以及预设的相邻两个负载等级之间的压测值差异，确定所述算力设备在各负载等级下的目标压测值。

18、在其中一个实施例中，所述对部署目标算力任务的算力设备进行压力测试，得到标准压测值，包括：

19、控制算力设备执行部署于所述算力设备中的压力测试程序，得到至少一个候选吞吐量数据；其中，所述压力测试程序为部署于所述算力设备中的目标算力任务所对应的压力测试程序；

20、将各候选吞吐量数据中最大的候选吞吐量数据，作为标准压测值。

21、在其中一个实施例中，所述根据标准压测值、预设的负载等级数量，以及预设的相邻两个负载等级之间的压测值差异，确定所述算力设备在各负载等级下的目标压测值，包括：

22、针对每一负载等级，根据所述负载等级数量、所述负载等级和所述压测值差异，确定所述标准压测值对应的压测值调整量；

23、根据所述压测值调整量对所述标准压测值进行调整，得到所述负载等级对应的目标压测值。

24、在其中一个实施例中，所述根据不同负载等级下的目标压测值，对所述算力设备进行功耗测试，得到所述算力设备在不同负载等级下的功耗数据和吞吐量数据，包括：

25、针对每一负载等级，在设定时段内向所述算力设备发送所述负载等级对应的目标压测值的吞吐量请求；

26、根据所述算力设备在所述设定时段内对所接收的吞吐量请求的处理情况，确定所述算力设备在所述负载等级下的功耗数据和吞吐量数据。

27、第二方面，本技术还提供了一种能耗检测装置。所述装置包括：

28、第一测试模块，用于对部署目标算力任务的算力设备进行压力测试，得到所述算力设备在不同负载等级下的目标压测值；其中，执行所述目标算力任务的算力单元包括所述算力设备中的图形处理器gpu和/或神经网络处理器npu；

29、第二测试模块，用于根据不同负载等级下的目标压测值，对所述算力设备进行功耗测试，得到所述算力设备在不同负载等级下的功耗数据和吞吐量数据；

30、确定模块，用于根据所述算力设备在不同负载等级下的功耗数据和吞吐量数据，确定所述算力设备的能效指标。

31、第三方面，本技术还提供了一种计算机设备。所述计算机设备包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现以下步骤：

32、对部署目标算力任务的算力设备进行压力测试，得到所述算力设备在不同负载等级下的目标压测值；其中，执行所述目标算力任务的算力单元包括所述算力设备中的图形处理器gpu和/或神经网络处理器npu；

33、根据不同负载等级下的目标压测值，对所述算力设备进行功耗测试，得到所述算力设备在不同负载等级下的功耗数据和吞吐量数据；

34、根据所述算力设备在不同负载等级下的功耗数据和吞吐量数据，确定所述算力设备的能效指标。

35、第四方面，本技术还提供了一种计算机可读存储介质。所述计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现以下步骤：

36、对部署目标算力任务的算力设备进行压力测试，得到所述算力设备在不同负载等级下的目标压测值；其中，执行所述目标算力任务的算力单元包括所述算力设备中的图形处理器gpu和/或神经网络处理器npu；

37、根据不同负载等级下的目标压测值，对所述算力设备进行功耗测试，得到所述算力设备在不同负载等级下的功耗数据和吞吐量数据；

38、根据所述算力设备在不同负载等级下的功耗数据和吞吐量数据，确定所述算力设备的能效指标。

39、第五方面，本技术还提供了一种计算机程序产品。所述计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现以下步骤：

40、对部署目标算力任务的算力设备进行压力测试，得到所述算力设备在不同负载等级下的目标压测值；其中，执行所述目标算力任务的算力单元包括所述算力设备中的图形处理器gpu和/或神经网络处理器npu；

41、根据不同负载等级下的目标压测值，对所述算力设备进行功耗测试，得到所述算力设备在不同负载等级下的功耗数据和吞吐量数据；

42、根据所述算力设备在不同负载等级下的功耗数据和吞吐量数据，确定所述算力设备的能效指标。

43、上述能耗检测方法、装置、计算机设备和存储介质，通过对部署目标算力任务的算力设备进行压力测试，得到算力设备在不同负载等级下的目标压测值；并根据不同负载等级下的目标压测值，确定算力设备在不同负载等级下的功耗数据和吞吐量数据，进而，根据算力设备在不同负载等级下的功耗数据和吞吐量数据，确定算力设备的能效指标。根据上述内容可知，本技术在确定算力设备的能效指标时，会先通过目标算力任务对算力设备进行压力测试，由于目标算力任务的算力单元包括算力设备中的gpu和/或npu，因此，相比现有技术中没有统计gpu和npu的能耗检测方法，本技术在确定算力设备的能效指标时，充分考虑了gpu和npu能耗参数，保证了后续确定算力设备能耗指标的准确信，并且，本技术通过不同负载等级下的目标压测值，确定算力设备在不同负载等级下的功耗数据和吞吐量数据，进而，根据不同负载等级下的功耗数据和吞吐量数据，充分展示了在不同负载等级下的算力设备的能耗情况，保证了算力设备的能耗指标可以准确反应算力设备的真实能耗。