针对云资源优化的评估框架的制作方法

背景技术：

1、随着云计算的普及，越来越多的数据和/或服务经由网络连接而在线被存储和/或被提供。提供最佳和可靠的用户体验是提供网络服务的基于云的平台的一个重要方面。在许多场景中，基于云的平台可以为地理上分散在一个国家甚至世界各地的数千或数百万用户(例如，顾客、客户、租户)提供服务。为了提供这种服务，基于云的平台常常包括不同的资源，诸如托管在各个数据中心的包含集群和节点的服务器场。此外，可以使用各种软件组件来构建基于云的平台，这些软件组件可以使得用户能够构建和托管其自己的平台和服务。

2、为了有效地管理云服务，特别是大规模的云服务，许多提供商利用诸如kubernetes之类的编排系统来处理软件的部署和扩展。由于在给定时间内可能有数千甚至数百万个软件部署处于活动状态，因此此类系统可以维持基于云的平台的稳定性和可靠性。一般来说，编排系统基于这些计算资源的可用性和每个软件部署的资源需求请求来协调跨计算资源(例如，集群内的节点)的活动软件部署。

技术实现思路

1、所公开的技术通过引入评估系统来改进基于云的平台的功能性，该评估系统真实地模拟实时部署环境以准确地评估针对编排系统的资源推荐。如本文所述，系统可以基于从当前可用计算资源中提取的系统特性来生成模拟计算环境。例如，在kubernetes中，可用计算资源可以在此被称为集群。模拟计算环境可以被利用来评估从预测模型接收到的资源需求推荐。系统特性可以包括与中央处理单元(cpu)、主存(memory)或辅存(storage)相关的潜在性能瓶颈。

2、该系统被配置为对活动软件部署进行采样以捕获基于云的平台内的当前活动的快照。这在本文中被称为活动数据集。活动数据集可以描述与被采样的活动软件部署相关联的各种方面，诸如资源的分配、资源利用和其他性能指标。活动数据集可以针对指定的时间范围而进行采样，并利用任何合适的采样算法，诸如gibbs采样。然后可以使用活动数据集来配置模拟计算环境并生成用于评估资源需求推荐的各种场景。

3、一旦使用系统特性和活动数据集配置了模拟计算环境，系统就可以在主动部署之前为了评估的目的而执行待定软件部署。在各种示例中，模拟计算环境包括模拟调度器，该模拟调度器模仿编排系统调度器的行为。模拟调度器被配置为根据资源需求推荐将待定软件部署的实例(例如，kubernetes中的容器)指派给模拟计算环境。例如，在kubernetes中，这些容器中的一个或多个可以形成pod。各种pod可以在可以表示计算资源单元(例如，一个虚拟机)的节点处执行。最后，这些节点的集合可以相应地形成集群，诸如数据中心。

4、在指派待定软件部署之后，系统被配置为分析模拟计算环境中的待定软件部署的各个实例的执行活动。因此，系统被配置为计算待定软件部署在各种场景中的资源需求推荐的资源利用。然后，系统被配置为确定待定软件部署的性能(受资源需求推荐的影响)是否可接受。例如，系统可以为每个软件部署配置资源利用阈值水平，以确保充分利用基于云的平台的计算资源。

5、所公开的技术解决了基于云的平台管理中出现的若干挑战。例如，虽然编排系统大大减轻了管理软件部署的负担，但是编排系统通常依赖于基于对软件部署需求的粗略估计而手动配置的资源需求请求。如此，为了防止资源匮乏，这些资源需求请求通常远远超过软件部署的实际需求。不幸的是，以这种方式配置计算资源常常导致资源利用低以及资源可用性低。换句话说，由于软件部署通常高估资源需求以确保平稳操作，因此大量计算资源未被使用，从而导致能源消耗过多、运营成本增加以及导致收入损失。

6、为了应对上面提及的低利用，许多云服务提供商利用各种预测技术(诸如机器学习)来分析待定软件部署并预测资源需求。在这些类型的场景中，可以使用过去软件部署的计算资源的历史使用数据来训练预测模型。当然，在实际上下文中的部署之前，必须针对准确性来评估这些类型的预测模型所生成的预测(例如，推荐或使用模型)。为此，可以将使用数据的一部分指明为测试数据集，以用于确定给定推荐是否可能成功。如果推荐生成可接受的指标，则可以认为可以部署。为了便于讨论，实时上下文、实时部署或实时计算环境可以是可供基于云的平台的用户方便使用的软件部署、计算资源等等。

7、不幸的是，使用过去的数据来对推荐进行训练和评估常常无法捕获实时部署的不可预测性质。例如，虽然推荐可能在上面提及的训练和测试过程中表现出名义上的功能性，但是计算资源可能由编排系统的调度器动态地分配，并由自动缩放过程以意想不到的方式进行修改。因此，这种评估方法并不总是可靠的，并且会为部署资源需求推荐带来不必要的风险。在另一个示例中，可以部署测试版软件来评估资源需求推荐。但是，这种方法也可能无法充分评估推荐，因为测试版部署可能不会经历与完整部署相同的活动。

8、此外，当根据推荐修改各种系统参数时，整个系统行为可能会发生巨大改变(例如，资源的分配和重新分配过多，因为推荐通常未充分利用经分配的或重新分配的资源)。在这种情形中，由历史使用数据所捕获的系统的各种行为与告知未来行为变得无关。如此，需要一个框架来真实地模拟实时部署环境并准确地评估各种资源需求推荐。以这种方式，就可以选择最适合系统的当前行为的资源需求推荐。

9、与现有解决方案相比，本文所公开的系统提供了对资源需求推荐的稳健评估，这些推荐捕获编排系统的动态的和不可预测的性质。如上面所提及，使用历史使用数据来生成和评估资源需求推荐的典型解决方案常常无法考虑在当前时间点处的行为。如此，评估可能指示推荐是正确的，但是该推荐实际上并不适合于实时计算环境的当前状态。这可能导致计算资源的过度利用，从而导致性能下降、功能性丧失和其他故障。替代地，糟糕的推荐可能导致计算资源利用不足，从而浪费电力和不必要的运营成本。因此，优化资源利用的计算资源需求推荐使得基于云的平台能够为用户提供可靠的体验，同时实现基础设施的最大利用并降低运营成本。

10、作为本公开的技术优势的另一个示例，从活动软件部署中采样活动数据使得所公开的系统能够在模拟计算环境内生成各种各样的场景。以这种方式，可以跨不同上下文评估资源需求推荐，以测量资源需求推荐对利用和性能的影响。因此，使用对实时数据的采样围绕模拟计算环境来组织评估框架可以实现对资源需求推荐的稳健评估。

11、通过阅读以下具体实施方式并查看相关附图，除上述明确描述之外的特征和技术优势将是显而易见的。本技术实现要素：旨在以简化形式介绍一系列概念，这些概念将在下文的具体实施方式中被进一步描述。本发明内容并非旨在标识所要求保护的主题的关键或基本特征，也不旨在被用作确定所要求保护的主题的范围的辅助手段。例如，术语“技术”可以指(多个)系统、(多个)方法、计算机可读指令、(多个)模块、算法、硬件逻辑和/或(多个)操作，如上面描述的上下文和整个文档所允许的那样。

技术特征：

1.一种用于评估资源需求推荐的方法，所述方法包括：

2.根据权利要求1所述的方法，其中所述待定软件部署的所述实例由使用所述活动数据集而被配置的模拟调度器指派给所述模拟计算环境。

3.根据权利要求1或权利要求2所述的方法，还包括：

4.根据权利要求1至3中任一项所述的方法，还包括：

5.根据权利要求1至3中任一项所述的方法，其中包括所述资源需求推荐的多个资源需求推荐同时被评估，所述方法还包括：

6.根据权利要求5所述的方法，其中所述多个资源需求推荐中的每个资源需求推荐包括所述待定软件部署的不同数目的实例。

7.根据权利要求1至6中任一项所述的方法，其中所述系统特性包括可用计算核心的数目、可用主存量、或者可用辅存量中的至少一项。

8.根据权利要求1至7中任一项所述的方法，其中所述活动数据集包括所述活动软件部署的分布、所述活动软件部署的资源利用水平、或者所述活动软件部署的资源分配中的至少一项。

9.根据权利要求1至8中任一项所述的方法，其中所述待定软件部署的所述实例包括分配的计算核心数目、分配的主存量或分配的辅存量中的至少一项。

10.一种系统，包括：

11.根据权利要求10所述的系统，其中所述待定软件部署的所述实例由使用所述活动数据集而被配置的模拟调度器指派给所述模拟计算环境。

12.根据权利要求10或11所述的系统，其中所述计算机可读指令还使所述系统：

13.根据权利要求10或权利要求11所述的系统，其中包括所述资源需求推荐的多个资源需求推荐同时被评估，并且其中所述计算机可读指令还使所述系统：

14.根据权利要求13所述的系统，其中所述多个资源需求推荐中的每个资源需求推荐包括所述待定软件部署的不同数目的实例。

15.一种计算机可读存储介质，所述计算机可读存储介质具有在其上被编码的计算机可读指令，所述计算机可读指令在由处理系统执行时使系统：

技术总结本文所公开的技术使得系统能够通过与实时计算环境的当前状况非常相似的模拟计算环境对资源需求推荐执行稳健评估。为了实现这一点，从实时计算环境中的当前可用计算资源中提取系统特性，诸如CPU、RAM和辅存。此外，对实时计算环境中的活动软件部署进行随机采用以生成活动数据集。然后使用系统特性和活动数据集来生成模拟计算环境。然后根据资源需求推荐向模拟计算环境指派待定软件部署的实例。然后在各种场景中执行这些实例并进行分析以计算资源利用水平。因此，可以同时评估和比较若干资源需求推荐，从而使得系统能够选择最佳资源需求推荐。技术研发人员：H·格鲁什卡,R·伦贝格,J·萨玛玛,E·哈巴,M·萨拉玛受保护的技术使用者：微软技术许可有限责任公司技术研发日：技术公布日：2024/9/17