技术新讯 > 计算推算,计数设备的制造及其应用技术 > 集群应用服务的扩缩容方法、系统、产品、装置及介质与流程  >  正文

集群应用服务的扩缩容方法、系统、产品、装置及介质与流程

  • 国知局
  • 2024-07-31 23:10:24

本发明涉及计算机,特别是涉及一种集群应用服务的扩缩容方法、系统、产品、装置及介质。

背景技术:

1、在实际生产环境中通常会遇到某个服务需要扩缩容的场景,主要缩扩容的为pod副本数,pod为kubernetes的最小工作单元,每个pod包含一个或者多个容器。如,某个设备服务资源紧张,需要对其进行扩容,服务请求的负载突然增加,原本一个pod副本开始吃不消,需要扩展几个pod副本分担突发的负载;某个设备服务工作负载降低,需要减少服务实例数量,服务请求的负载高峰期过后,为了降低不必要的资源开销,对该服务的副本资源进行收缩。

2、传统的pod扩缩容操作方式包括两种,一种是手动模式,通过命令行kubectlscale等命令对pod副本数设置调整,手工操作的同时不确定何时业务请求量较大,只能凭借工作人员的经验能力调整,导致调整的时间和扩缩容的数量精准性。另一种是自动模式,需要依据某个性能指标或者自定义业务指标,指定pod副本数量的范围,系统自动在该pod的副本范围内依据相关性能指标的变化动态调整。上述两种操作方式在扩容方面存在明显的时间滞后性,均是在扩缩容信号发生后进行对应的操作,无法迅速响应业务变化,进一步导致扩缩容的操作效率降低。

3、因此,如何提高响应业务的变化情况以提高扩缩容的操作效率,是本领域技术人员亟需要解决的问题。

技术实现思路

1、本发明的目的是提供一种集群应用服务的扩缩容方法、系统、产品、装置及介质,以解决在扩容方面存在明显的时间滞后性,均是在扩缩容信号发生后进行对应的操作,无法迅速响应业务变化,进一步导致扩缩容的操作效率降低的技术问题。

2、为解决上述技术问题,本发明提供一种集群应用服务的扩缩容方法,应用于云计算平台,包括:

3、获取云计算平台中应用服务的历史数据;其中,所述历史数据至少包括用于量化应用服务效率的业务指标数据和用于反映系统硬件资源利用率的性能指标数据;

4、根据应用服务的预测峰值策略对所述业务指标数据进行预测得到对应的峰值指标数据;其中,所述预测峰值策略至少包括人工智能模型确定的策略和/或时间序列模型确定的策略的一种或者多种;

5、根据云计算平台对应的芯片架构类型确定对应的业务承载策略;根据确定的业务承载策略对资源负载、芯片架构对应的实例数和所述性能指标数据进行处理得到应用服务对应的单位资源承载量;

6、根据所述峰值指标数据和所述单位资源承载量之间的关系确定所述应用服务的扩缩容处理策略。

7、一方面,在所述预测峰值策略为时间序列模型确定的策略且所述业务指标数据为一种数据类型时,根据应用服务的预测峰值策略对所述业务指标数据进行预测得到对应的峰值指标数据,包括:

8、以当前时间为基准,获取以当前时间逆推的预设时间内的所述业务指标数据;

9、调用所述时间序列模型;

10、将所述业务指标数据和所述预设时间作为输入参数,输入至所述时间序列模型;

11、获取所述时间序列模型的输出参数对应的预测序列;

12、在所述预测序列中确定最大的序列数据作为所述应用服务对应的所述峰值指标数据。

13、另一方面,在所述预测峰值策略为时间序列模型确定的策略且所述业务指标数据为多种数据类型时,根据应用服务的预测峰值策略对所述业务指标数据进行预测得到对应的峰值指标数据,包括:

14、以当前时间为基准,获取以当前时间逆推的预设时间内的各所述业务指标数据;

15、调用所述时间序列模型;

16、将各所述业务指标数据和所述预设时间作为输入参数,分别对应输入至所述时间序列模型;

17、获取所述时间序列模型的输出参数内各所述业务指标数据对应的预测序列;

18、在各所述预测序列中确定最大的序列数据作为各所述业务指标数据的初始峰值指标数据;

19、在各初始峰值指标数据中选取最小的初始峰值指标数据作为所述应用服务对应的所述峰值指标数据。

20、另一方面,所述时间序列模型至少包括差分集成移动平均自回归模型、以鲁棒局部加权回归作为平滑方法的时间序列分解模型或长短期记忆网络模型的一种。

21、另一方面,在所述预测峰值策略为人工智能模型确定的策略且所述业务指标数据为一种数据类型时,根据应用服务的预测峰值策略对所述业务指标数据进行预测得到对应的峰值指标数据,包括:

22、以当前时间为基准,获取以当前时间逆推的预设时间内的所述业务指标数据;

23、调用所述人工智能模型;

24、将所述业务指标数据作为输入参数,输入至所述人工智能模型;

25、获取所述人工智能模型的输出参数,以作为所述应用服务对应的所述峰值指标数据。

26、另一方面,在所述预测峰值策略为人工智能模型确定的策略且所述业务指标数据为多种数据类型时,根据应用服务的预测峰值策略对所述业务指标数据进行预测得到对应的峰值指标数据,包括:

27、以当前时间为基准,获取以当前时间逆推的预设时间内的各所述业务指标数据;

28、调用所述人工智能模型;

29、将各所述业务指标数据作为输入参数,输入至所述人工智能模型;

30、获取所述人工智能模型的输出参数,以作为所述应用服务对应的所述峰值指标数据;

31、其中,所述人工智能模型的确定过程,包括:

32、获取第一历史数据内多种数据类型对应的历史业务指标;

33、将各历史业务指标数据进行特征提取确定对应的特征指标数据;

34、将各特征指标数据进行分类处理确定各历史业务指标数据对应的初始峰值指标数据;

35、在各所述初始峰值指标数据内选取最小的所述初始峰值指标数据,作为所述应用服务对应的所述峰值指标数据,以完成所述人工智能模型的处理。

36、另一方面,根据云计算平台对应的芯片架构类型确定对应的业务承载策略,包括:

37、获取云计算平台对应的芯片架构类型;

38、若所述芯片架构类型为一种类型,则确定的业务承载策略为第一业务承载策略;

39、若所述芯片架构类型为多种类型,则确定的业务承载策略为第二业务承载策略;

40、若所述芯片架构类型为多种类型,且所述应用服务由其中一种类型的架构迁移至另外一种类型的架构时,则确定的业务承载策略为第三业务承载策略。

41、另一方面,根据第一业务承载策略对资源负载、芯片架构对应的实例数和所述性能指标数据进行处理得到应用服务对应的单位资源承载量,包括:

42、以当前时间为基准,获取以当前时间逆推的设定时间内所述应用服务的第二历史数据;

43、将所述第二历史数据内的所述业务指标数据进行平均处理确定第一平均数据;其中,所述第一平均数据为所述应用服务的资源负载和所述芯片架构可分配的实例数进行除法处理得到的数据;

44、将第一平均数据与所述性能指标数据进行除法处理得到所述应用服务对应的单位资源承载量。

45、另一方面,根据第二业务承载策略对资源负载、芯片架构对应的实例数和所述性能指标数据进行处理得到应用服务对应的单位资源承载量,包括:

46、获取所述应用服务对应的资源负载和所述云计算平台的总实例数;其中,所述云计算平台的总实例数为各芯片架构对应的实例数之和;

47、获取各芯片架构对应的实例数与所述云计算平台的总实例数对应的第一比例数据;

48、根据所述资源负载与各所述第一比例数据的关系分别确定各芯片架构对应的承载负载量;

49、根据各芯片架构对应的承载负载量与各芯片架构对应的实例数确定对应的第三数据;

50、将各第三数据与所述性能指标数据进行除法处理得到对应的第四数据;

51、将各第四数据与资源使用量阈值进行乘法处理得到对应的初始单位资源承载量;

52、在各初始单位资源承载量内选取最小的初始单位资源承载量,作为所述单位资源承载量。

53、另一方面,根据第三业务承载策略对资源负载、芯片架构对应的实例数和所述性能指标数据进行处理得到应用服务对应的单位资源承载量,包括:

54、以当前时间为基准,获取以当前时间逆推的设定时间内所述应用服务的第二历史数据;

55、将所述第二历史数据内的所述业务指标数据进行平均处理确定第一平均数据;其中,所述第一平均数据为所述应用服务的资源负载和目标芯片架构可分配的实例数进行除法处理得到的数据;所述目标芯片架构为所述应用服务由其中一种类型的架构迁移确定的芯片架构;

56、将第一平均数据与所述性能指标数据进行除法处理得到所述应用服务对应的单位资源承载量。

57、另一方面,根据所述峰值指标数据和所述单位资源承载量之间的关系确定所述应用服务的扩缩容处理策略,包括:

58、将所述峰值指标数据与所述单位资源承载量进行向上取整处理得到待调整实例数;

59、获取所述芯片架构对应的实例数;

60、若所述待调整实例数大于所述实例数,则确定所述应用服务需要进行扩容处理;

61、若所述待调整实例数小于所述实例数,则确定所述应用服务需要进行缩容处理。

62、另一方面,根据所述峰值指标数据和所述单位资源承载量之间的关系确定所述应用服务的扩缩容处理策略,包括:

63、获取各芯片架构对应的性能信息;

64、判断各芯片架构对应的性能信息是否均满足算力等价条件;

65、若是,则确定各芯片架构分别对应的所述单位资源承载量之间的差值处于预设范围;将各芯片架构分别对应的所述单位资源承载量进行加和处理得到第一单位资源承载量;将第一单位资源承载量与芯片架构的架构数量进行除法处理确定最终的所述单位资源承载量;

66、若否,则确定各芯片架构分别对应的所述单位资源承载量之间的差值超出所述预设范围;在各芯片架构分别对应的所述单位资源承载量内选取最小的所述单位资源承载量作为最终的所述单位资源承载量;

67、将所述峰值指标数据与最终的所述单位资源承载量进行向上取整处理得到待调整实例数;

68、获取所述芯片架构对应的实例数;

69、若所述待调整实例数大于所述实例数,则确定所述应用服务需要进行扩容处理;

70、若所述待调整实例数小于所述实例数,则确定所述应用服务需要进行缩容处理。

71、为解决上述技术问题,本发明还提供一种集群系统,包括各集群节点和云计算平台;各所述集群节点对应一个芯片架构;

72、所述云计算平台用于获取云计算平台中应用服务的历史数据;根据应用服务的预测峰值策略对业务指标数据进行预测得到对应的峰值指标数据;根据云计算平台对应的芯片架构类型确定对应的业务承载策略;根据确定的业务承载策略对资源负载、芯片架构对应的实例数和性能指标数据进行处理得到应用服务对应的单位资源承载量;根据所述峰值指标数据和所述单位资源承载量之间的关系确定所述应用服务的扩缩容处理策略;其中,所述历史数据至少包括用于量化应用服务效率的业务指标数据和用于反映系统硬件资源利用率的性能指标数据;所述预测峰值策略至少包括人工智能模型确定的策略和/或时间序列模型确定的策略的一种或者多种;

73、所述集群节点,用于根据扩缩容处理策略对所述集群节点的应用服务进行扩缩容处理。

74、为解决上述技术问题,本发明还提供一种计算机程序产品,包括计算机程序/指令,该计算机程序/指令被处理器执行时实现上述所述集群应用服务的扩缩容方法的步骤。

75、为解决上述技术问题,本发明还提供一种集群应用服务的扩缩容装置,包括:

76、存储器,用于存储计算机程序;

77、处理器,用于执行所述计算机程序时实现如上述所述的集群应用服务的扩缩容方法的步骤。

78、为解决上述技术问题,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如上述所述的集群应用服务的扩缩容方法的步骤。

79、本发明提供一种集群应用服务的扩缩容方法,应用于云计算平台,包括获取云计算平台中应用服务的历史数据;其中,历史数据至少包括用于量化应用服务效率的业务指标数据和用于反映系统硬件资源利用率的性能指标数据;根据应用服务的预测峰值策略对业务指标数据进行预测得到对应的峰值指标数据;其中,预测峰值策略至少包括人工智能模型确定的策略和/或时间序列模型确定的策略的一种或者多种;根据云计算平台对应的芯片架构类型确定对应的业务承载策略;根据确定的业务承载策略对资源负载、芯片架构对应的实例数和性能指标数据进行处理得到应用服务对应的单位资源承载量;根据峰值指标数据和单位资源承载量之间的关系确定应用服务的扩缩容处理策略。

80、本发明的有益效果在于通过云计算平台中应用服务的历史数据(至少包括业务指标数据和性能指标数据),并根据预测峰值策略对业务指标数据预测得到峰值指标数据,相对于传统的pod扩缩容操作方式的时间滞后性,本发明基于历史数据预测得到峰值指标数据,使之数据实现前置性的预测。均是在扩缩容信号发生之前提前预先确定对应的扩缩容处理操作,提高响应业务变化的速度和扩缩容的操作效率。另外,本发明通过业务承载策略对资源负载、芯片架构对应的实例数和性能指标数据进行处理得到应用服务对应的单位资源承载量后,基于峰值指标数据和单位资源承载量之间的关系确定应用服务的扩缩容处理策略,结合业务指标数据和性能指标数据的历史数据精准确定扩缩容条件,提升扩缩容策略的主动性。同时,基于云计算平台的多种不同架构或者同种架构下的应用场景,满足业务发展需求。

81、其次,基于一种或者多种业务指标数据对应的时序序列模型进行预测得到的峰值指标数据,提高预测的准确性,在后者实施例中考虑到多种业务指标数据进行的预测,提高业务指标数据处理过程中的多样性预测方式和兼顾多种业务指标数据的情况下,提高系统的稳定运行。基于一种或者多种业务指标数据对应的人工智能模型进行预测得到的峰值指标数据,提高预测的准确性。针对于云计算平台的多种芯片架构场景,分别制定不同的业务承载策略,使得不同架构乘降下均能提升系统的处理能力,确保应用任务请求得到及时响应。基于第一业务承载策略进行单位资源承载量的确定过程,通过平均处理得到,提高当前框架下的业务承载能力。在一云多芯场景下,单位资源承载量的确定过程,在多种架构下,兼顾多个初始单位资源承载量的同时,得到最终的单位资源承载量,提高整体应用服务的可靠性。跨架构的业务迁移,提高架构感知选择的多样性,保证应用服务运行的可靠性。

82、另外,本发明还提供了一种集群系统、计算机程序产品、集群应用服务的扩缩容装置以及介质,具有如上述集群应用服务的扩缩容方法相同的有益效果。

本文地址:https://www.jishuxx.com/zhuanli/20240730/196217.html

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 YYfuon@163.com 举报,一经查实,本站将立刻删除。