云平台的流控管理方法，系统，设备及存储介质与流程

本发明涉及云计算，特别是涉及一种云平台的流控管理方法，系统，设备及存储介质。

背景技术：

1、对于超融合或者虚拟化这样的云平台，由于云平台上的资源是确定的，因此当云平台接收了大量任务并下发之后，为了保障云平台能够保持正常运行状态，需要进行云平台的流控限制，即限制云平台与外部交互时的流量不能超过流控阈值，这样的操作对于保障云平台的稳定性具有重要作用。

2、目前，云平台的流控阈值主要是由工作人员基于经验设定的，很容易出现设定的流控阈值不合理的情况，当设定的流控阈值过高时，起不到保障云平台稳定的作用，相应的，当设定的流控阈值过低时，虽然可以有效地保障云平台的稳定运行，但过大的流控力度会导致在任务较多的场合中，任务需要等待较长时间才能执行的情况，严重影响用户体验，所以设置合适的流控阈值显得尤为重要。

3、综上所述，如何有效地实现云平台的流控管理，设置合适的流控阈值，是目前本领域技术人员急需解决的技术问题。

技术实现思路

1、本发明的目的是提供一种云平台的流控管理方法，系统，设备及存储介质，以有效地实现云平台的流控管理，设置合适的流控阈值。

2、为解决上述技术问题，本发明提供如下技术方案：

3、第一方面，本发明提供了一种云平台的流控管理方法，包括：

4、当基于工程平台控制目标云平台在未被分配任务流时的硬件资源使用状态达到预设的第i硬件资源使用状态时，确定出所述目标云平台被分配任务流之后维持为稳定状态时所支持的最大流量，作为对应于所述第i硬件资源使用状态的最大流量；其中，i为正整数且从1依次取值至n，n为预设的不小于2的正整数；

5、在依次得到第1硬件资源使用状态至第n硬件资源使用状态各自对应的最大流量之后，建立所述目标云平台在未被分配任务流时的硬件资源使用状态与最大流量之间的对应关系；

6、在待部署云平台被部署之后，基于所述待部署云平台在未被分配任务流时的硬件资源使用状态以及所述对应关系，得出所述待部署云平台被分配任务流之后维持为稳定状态时所支持的最大流量；

7、将得出的所述待部署云平台被分配任务流之后维持为稳定状态时所支持的最大流量配置为所述待部署云平台的流控阈值。

8、其中，在依次得到第1硬件资源使用状态至第n硬件资源使用状态各自对应的最大流量之后，建立所述目标云平台在未被分配任务流时的硬件资源使用状态与最大流量之间的对应关系，包括：

9、建立待训练的第一深度学习模型；

10、依次将第1硬件资源使用状态至第n硬件资源使用状态作为所述第一深度学习模型的输入量，并且依次将第1硬件资源使用状态至第n硬件资源使用状态各自对应的最大流量作为标签，进行所述第一深度学习模型的训练，得到训练之后的目标深度学习模型；

11、将所述目标深度学习模型作为所建立的所述目标云平台在未被分配任务流时的硬件资源使用状态与最大流量之间的对应关系。

12、其中，基于工程平台控制目标云平台在未被分配任务流时的硬件资源使用状态达到预设的第i硬件资源使用状态，包括：

13、在目标云平台未被分配任务流时，基于工程平台控制所述目标云平台的中央处理器使用率，内存使用率，存储使用率以及网络延迟分别符合第i硬件资源使用状态中的中央处理器使用率目标值，内存使用率目标值，存储使用率目标值以及网络延迟目标值。

14、其中，当基于工程平台控制目标云平台在未被分配任务流时的硬件资源使用状态达到预设的第i硬件资源使用状态时，确定出所述目标云平台被分配任务流之后维持为稳定状态时所支持的最大流量，包括：

15、当基于工程平台控制目标云平台在未被分配任务流时的硬件资源使用状态达到预设的第i硬件资源使用状态时，持续为所述目标云平台分配任务流；

16、当检测出所述目标云平台的操作响应时延达到预设的第一阈值时，将所述目标云平台的当前流量作为确定出的所述目标云平台被分配任务流之后维持为稳定状态时所支持的最大流量。

17、其中，还包括：

18、判断当前的任务流中的任务总数量是否大于预设的第二阈值；

19、如果否，则按照任务产生的先后顺序，依次执行当前的任务流中的各个任务；

20、如果是，则按照预设的不同任务类型与相应优先级之间的对应关系，确定出当前的任务流中的各个任务各自的优先级，并且按照优先级的不同进行任务分组；

21、其中，在相同优先级的任务分组内，按照该任务分组内的任务产生的先后顺序进行该任务分组内的任务排序；

22、在按照优先级的不同进行任务分组之后，在任务流中的任务总数量未低于所述第二阈值之前，每当产生新任务时，按照所述新任务的优先级将所述新任务置入相应优先级的任务分组内；

23、按照优先级从高到低的顺序，依次执行各个优先级的任务分组内的任务，并且，在按照优先级的不同进行任务分组之后，判断非最高优先级的各个任务分组内是否存在正在执行的任务；

24、如果存在，则暂停非最高优先级的各个任务分组内的正在执行的任务，并记录被暂停的各个任务的执行数据。

25、其中，按照优先级从高到低的顺序，依次执行各个优先级的任务分组内的任务，包括：

26、按照优先级从高到低的顺序，依次执行各个优先级的任务分组内的任务，且当执行最高优先级的任务分组内的任务时，按照预设的高速率执行模式执行最高优先级的任务分组内的任务，当执行非最高优先级的任务分组内的任务时，按照默认执行模式执行非最高优先级的任务分组内的任务。

27、其中，还包括：

28、当接收到第一指令时，将所述第一指令所指向的任务从该任务的原任务分组内，移动到所述第一指令所指向的目标任务分组中的目标位置。

29、第二方面，本发明提供了一种云平台的流控管理系统，包括：

30、实验模块，用于当基于工程平台控制目标云平台在未被分配任务流时的硬件资源使用状态达到预设的第i硬件资源使用状态时，确定出所述目标云平台被分配任务流之后维持为稳定状态时所支持的最大流量，作为对应于所述第i硬件资源使用状态的最大流量；其中，i为正整数且从1依次取值至n，n为预设的不小于2的正整数；

31、对应关系建立模块，用于在依次得到第1硬件资源使用状态至第n硬件资源使用状态各自对应的最大流量之后，建立所述目标云平台在未被分配任务流时的硬件资源使用状态与最大流量之间的对应关系；

32、待部署云平台最大流量确定模块，用于在待部署云平台被部署之后，基于所述待部署云平台在未被分配任务流时的硬件资源使用状态以及所述对应关系，得出所述待部署云平台被分配任务流之后维持为稳定状态时所支持的最大流量；

33、流控阈值配置模块，用于将得出的所述待部署云平台被分配任务流之后维持为稳定状态时所支持的最大流量配置为所述待部署云平台的流控阈值。

34、第三方面，本发明提供了一种云平台的流控管理设备，包括：

35、存储器，用于存储计算机程序；

36、处理器，用于执行所述计算机程序以实现如上述所述的云平台的流控管理方法的步骤。

37、第四方面，本发明提供了一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如上述所述的云平台的流控管理方法的步骤。

38、应用本发明实施例所提供的技术方案，考虑到传统方案中由工作人员基于经验设定云平台的流控阈值很容易出现设定的流控阈值不合理的情况，并且申请人还发现，在有些场合中，即便已经将云平台的流控阈值调整为非常合适的数值，在部署新的云平台并使用了该流控阈值之后，该流控阈值并不是很适合这一新部署的云平台。

39、对此，本技术的方案考虑到，出现这样的情况，是因为不同的云平台在部署之后会有不同的硬件资源使用状态，硬件资源使用状态是影响流控触发的核心因素，因此，本技术的方案中，会按照待部署云平台的硬件资源使用状态来进行流控阈值的设定以保障所设定的流控阈值的合理性。

40、具体的，先需要基于工程平台对目标云平台进行实验，具体是基于工程平台控制目标云平台在未被分配任务流时的硬件资源使用状态达到预设的n种硬件资源使用状态。当基于工程平台控制目标云平台在未被分配任务流时的硬件资源使用状态达到预设的第i硬件资源使用状态时，向目标云平台分配任务流之后，目标云平台中的相应硬件资源会被使用地更多，云平台与外部交互时的流量也会不断增大，因此，如果确定出目标云平台被分配任务流之后维持为稳定状态时所支持的最大流量，也就意味着如果流量继续增大，超过了该最大流量，目标云平台会无法维持为稳定状态，因此将该最大流量作为确定出的对应于第i硬件资源使用状态的最大流量，也就是说，如果目标云平台在未被分配任务流时的硬件资源使用状态是第i硬件资源使用状态，则为其配置的流控阈值不应超过上面对应于第i硬件资源使用状态的最大流量。

41、i为正整数且从1依次取值至n之后，便可以依次得到第1硬件资源使用状态至第n硬件资源使用状态各自对应的最大流量，进而便可以建立目标云平台在未被分配任务流时的硬件资源使用状态与最大流量之间的对应关系，也就是说，如果确定出了某个云平台在未被分配任务流时的硬件资源使用状态，按照该对应关系，便可以确定出该云平台被分配任务流之后要维持为稳定状态时，所支持的最大流量是多少。因此，在待部署云平台被部署之后，基于待部署云平台在未被分配任务流时的硬件资源使用状态以及对应关系，便可以得出待部署云平台被分配任务流之后维持为稳定状态时所支持的最大流量，进而将得出的待部署云平台被分配任务流之后维持为稳定状态时所支持的最大流量配置为待部署云平台的流控阈值，便可以在保障待部署云平台稳定运行的基础上，最大化地发挥出云平台的性能，也就有利于提高任务执行效率。

42、综上所述，本技术的方案中，能够有效地实现云平台的流控管理，设置最为合适的流控阈值。