一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

资源迁移方法、装置、计算机设备、存储介质和程序产品与流程

2022-12-10 16:41:08 来源:中国专利 TAG:


1.本技术涉及云计算技术领域,特别是涉及一种资源迁移方法、装置、计算机设备、存储介质和程序产品。


背景技术:

2.随着云计算技术的发展,出现了分布式存储技术。分布式存储是云计算的三大核心之一,存储集群服务影响着整个云计算的正常运行。在日常的存储资源使用过程中,难免会出现各种故障,比如硬盘损坏、网络异常、内存故障等问题。减少分布式存储系统的故障率有利于保障云计算平稳性与信赖度。
3.传统技术中,故障已经发生后,管理模块根据发现的故障进行告警,针对不同的告警,管理模块自动进行隔离节点的操作,在对故障节点进行处理后,故障节点已不在系统内,系统便恢复业务。
4.然而,这种方式在节点发生故障时,故障节点无法进行数据的存取,因此整个存储服务会存在卡顿、波动等问题。


技术实现要素:

5.基于此,有必要针对上述技术问题,提供一种提前预测存储故障,提升分布式存储的高可用能力的资源迁移方法、装置、计算机设备、存储介质和程序产品。
6.第一方面,本技术提供了一种资源迁移方法,该方法包括:
7.获取各待预测节点的日志信息和资源使用情况;
8.根据各该待预测节点的日志信息和资源使用情况,从各该待预测节点中确定目标预测节点;
9.将该目标预测节点上的待迁移资源迁移至目的节点;该目的节点的资源使用情况满足预设条件且该目的节点上未存储有该待迁移资源的副本。
10.在其中一个实施例中,该根据各该待预测节点的日志信息和资源使用情况,从各该待预测节点中确定目标预测节点,包括:
11.根据各该待预测节点的日志信息确定对应的第一评价结果;
12.根据各该待预测节点的资源使用情况确定对应的第二评价结果;
13.根据各该待预测节点的该第一评价结果和该第二评价结果,从各该待预测节点中确定该目标预测节点。
14.在其中一个实施例中,该根据各该待预测节点的日志信息对应的第一评价结果,包括:
15.针对各该待预测节点,根据该待预测节点包括的各模块的日志信息,确定各该模块的目标告警类型;
16.根据各该模块的目标告警类型和第一预设对应关系,确定各该模块的第三评价结果;该第一预设对应关系包括不同模块的告警类型与不同的评价结果之间的对应关系;
17.根据各该模块的第三评价结果,确定各该待预测节点的日志信息确定对应的第一评价结果。
18.在其中一个实施例中,该针对各该待预测节点,根据该待预测节点包括的各模块的日志信息,确定各该模块的目标告警类型,包括:
19.针对各该待预测节点,根据该待预测节点包括的各模块的日志信息,确定各该模块的日志信息的关键词;
20.根据各该模块的日志信息的关键词和第二预设对应关系,确定各该模块的目标告警类型;该第二预设对应关系包括不同的预设关键词与不同的预设告警类型之间的对应关系。
21.在其中一个实施例中,该根据各该待预测节点的资源使用情况确定对应的第二评价结果,包括:
22.针对各该待预测节点,根据该待预测节点的中央处理器cpu的资源使用情况、内存资源使用情况、放置群组pg的个数以及数据容量中的至少一项,确定该待预测节点对应的第二评价结果。
23.在其中一个实施例中,该根据各该待预测节点的该第一评价结果和该第二评价结果,从各该待预测节点中确定该目标预测节点,包括:
24.根据各该待预测节点的该第一评价结果和该第二评价结果,确定各该待预测节点的综合评价结果;
25.根据各该待预测节点的综合评价结果,从各该待预测节点中确定该目标预测节点。
26.在其中一个实施例中,该根据各该待预测节点的综合评价结果,从各该待预测节点中确定该目标预测节点,包括:
27.将该综合评价结果大于等于预设迁移阈值的待预测节点确定为该目标预测节点。
28.在其中一个实施例中,该方法还包括:
29.获取各第一候选节点上存储的目标资源;
30.将该目标资源中未包括该待迁移资源的副本、且数据容量大于等于预设容量阈值的第一候选节点作为第二候选节点;
31.根据该第二候选节点的资源使用情况,从该第二候选节点中确定该目的节点。
32.第二方面,本技术提供了一种资源迁移装置,该装置包括:
33.第一获取模块,用于获取各待预测节点的日志信息和资源使用情况;
34.第一确定模块,根据各该待预测节点的日志信息和资源使用情况,从各该待预测节点中确定目标预测节点;
35.迁移模块,将该目标预测节点上的待迁移资源迁移至目的节点;该目的节点的资源使用情况满足预设条件且该目的节点上未存储有该待迁移资源的副本。
36.第三方面,本技术提供了一种计算机设备,该计算机设备包括存储器和处理器,该存储器存储有计算机程序,该处理器执行该计算机程序时实现上述方法的步骤。
37.第四方面,本技术提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述方法的步骤。
38.第五方面,本技术提供了一种计算机程序产品,该计算机程序产品包括计算机程
序,该计算机程序被处理器执行时实现上述方法的步骤。
39.上述资源迁移方法、装置、计算机设备、存储介质和程序产品,首先计算机设备获取各待预测节点的日志信息和资源使用情况,然后根据各待预测节点的日志信息和资源使用情况,从各待预测节点中确定目标预测节点,最后将目标预测节点上的待迁移资源迁移至目的节点,其中,目的节点的资源使用情况满足预设条件且目的节点上未存储有待迁移资源的副本。由于,本技术在故障发生之前就进行了故障的预测,并进行隔离,并且限定了需要进行故障预测并迁移的各待预测节点的范围,意味着通过本技术进行的资源迁移任务,可以按照历史运维经验、个性化需求配置各待预测节点的范围,针对性的迁移放置群组pg,实现分布式块存储系统故障预测迁移的精细化管理,因此,通过本技术进行的资源迁移任务能够预测可能出现异常的节点或存储服务,并在不影响业务流量的前提下主动迁移放置群组pg的数据,避免存储故障时数据不可用造成的业务影响及性能下降,即使未预测出突发的异常,也不影响原系统的故障处理高可用能力,即提升了分布式存储的稳定性以及分布式存储的高可用能力。
附图说明
40.图1为本技术实施例提供的一种资源迁移方法的流程示意图;
41.图2为本技术实施例提供的一种目标预测节点确定方法的流程示意图;
42.图3为本技术实施例提供的一种评价结果确定方法的流程示意图;
43.图4为本技术实施例提供的一种目标告警类型确定方法的流程示意图;
44.图5为本技术实施例提供的一种目标预测节点确定方法的流程示意图;
45.图6为本技术实施例提供的一种目的节点确定方法的流程示意图;
46.图7为本技术实施例提供的一种资源迁移装置的结构示意图;
47.图8为一个实施例中计算机设备的内部结构图。
具体实施方式
48.为了使本技术的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本技术进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本技术,并不用于限定本技术。
49.图1为本技术实施例提供的一种资源迁移方法的流程示意图,该方法包括以下步骤:
50.s101、获取各待预测节点的日志信息和资源使用情况。
51.其中,日志信息指的需要监控的日志地址、故障的关键词、当前模块故障对存储系统整体服务影响的权重以及告警类型中的部分或全部;资源使用情况包括中央处理器(central processing unit,cpu)的使用情况、内存的使用情况、放置群组(placement group,pg)的个数、数据容量中的至少一项。
52.可选的,由于云计算的环境中不同的节点上承载的业务种类不一样,因此本技术实施例中的待预测节点指需要进行故障预测并迁移的各待预测节点,各待预测节点指通过知识库及专家经验设置的故障预测生效范围内的节点,故障预测生效范围是用于限定需要进行故障预测并可能进行迁移的各待预测节点的范围。
53.可以按照历史运维经验、个性化需求配置故障预测生效范围,计算机设备获取故障预测生效范围内的各待预测节点的日志地址、故障的关键词、当前模块故障对存储系统整体服务影响的权重以及告警类型,即日志信息,同时计算机设备获取中央处理器cpu的使用情况、内存的使用情况、pg的个数以及数据容量,即资源使用情况。
54.s102、根据各待预测节点的日志信息和资源使用情况,从各待预测节点中确定目标预测节点。
55.其中,目标预测节点指的是待迁移的节点,待迁移的节点指该节点上的资源需要进行迁移的节点。该节点上的资源可以包括存储于该节点上的pg。
56.具体地,计算机设备根据故障预测生效范围的各待预测节点的日志信息以及资源使用情况,通过日志信息确定对应的评价结果,同时通过资源使用情况确定对应的评价结果,进而根据日志信息确定的评价结果和资源使用情况确定的评价结果,能够确定出待预测节点的评价结果,并根据待预测节点的评价结果,从待预测节点中确定待迁移的节点,即确定了目标预测节点。
57.s103、将目标预测节点上的待迁移资源迁移至目的节点;目的节点的资源使用情况满足预设条件且目的节点上未存储有待迁移资源的副本。
58.其中,待迁移资源指的是目标预测节点上的待迁移pg,pg的用途是对块文件的存储进行组织和位置映射;待迁移资源的副本可以理解为:一般为了节点的高可用性,一个pg有1份主数据以及2份备数据,这3份数据分别在不同的节点上,这里的备数据即为待迁移资源的副本。
59.具体地,计算机设备将已确定的目标预测节点上的待迁移pg迁移至目的节点。其中,目的节点的资源使用情况需要满足预设条件且该目的节点上需要满足没有存储待迁移资源的副本,目的节点上需要满足没有存储待迁移资源的副本指的是目的节点上没有存储待迁移资源的备数据。
60.需要说明的是,针对目标预测节点上的待迁移资源迁移至目的节点的迁移任务,要对每次迁移任务处理个数进行限定,由于多个节点互相迁移可能会影响整个分布式存储系统的正常运行,因此迁移任务处理个数需要根据每一次针对目标预测节点的迁移任务进行设置

61.本技术实施例中涉及到的故障预测生效范围、日志信息、预设迁移阈值、故障迁移例外以及迁移任务处理个数可以参照如下表1所示:
62.表1
[0063][0064][0065]
在传统的方法中,在故障发生后问题节点被隔离,这种方式在故障发生时,故障节点的数据无法访问,即故障节点为不可用的状态。而上层业务存取数据访问到整个存储时,大概率会访问到这个故障节点,由于故障节点无法进行数据的存取,因此整个存储服务会存在卡顿、波动等影响,并且在故障发生节点被隔离后,管理系统会重新调整整个系统的数据分布,因此存储服务也不可避免的要损失一部分性能去做数据恢复相关工作。为使存储服务正常运行,提高分布式存储的高可用性,本技术提出了一种资源迁移方法、装置、计算机设备、存储介质和程序产品。
[0066]
而本技术实施例提供的资源迁移方法,首先计算机设备获取各待预测节点的日志信息和资源使用情况,然后根据各待预测节点的日志信息和资源使用情况,从各待预测节点中确定目标预测节点,最后将目标预测节点上的待迁移资源迁移至目的节点,其中,目的节点的资源使用情况满足预设条件且目的节点上未存储有待迁移资源的副本。由于,本技术在故障发生之前就进行了故障的预测,再将可能发生故障的节点上的pg迁移至目的节点,即将目标预测节点上的待迁移资源迁移至目的节点,相当于对故障提前进行隔离,因此,通过本技术进行的资源迁移任务能够预测可能出现异常的节点或存储服务,并在不影响业务流量的前提下主动迁移pg的数据,避免存储故障时数据不可用造成的业务影响及性能下降,即使未预测出突发的异常,也不影响原系统的故障处理高可用能力,即提升了分布式存储的稳定性以及分布式存储的高可用能力。
[0067]
进一步地,将目标预测节点上的待迁移资源迁移至目的节点,能够实现针对性的目标预测节点上的pg,实现分布式块存储系统故障预测迁移的精细化管理。
[0068]
图2为本技术实施例提供的一种目标预测节点确定方法的流程示意图,本实施例涉及的是根据各待预测节点的日志信息和资源使用情况,如何从各待预测节点中确定目标预测节点的一种可能的实现方式,在上述实施例的基础上,上述的s102包括:
[0069]
s201、根据各待预测节点的日志信息确定对应的第一评价结果。
[0070]
具体地,计算机设备根据各待预测节点的日志信息中的目标告警类型,确定目标
告警类型对应的量化值,将该量化值作为该节点的日志信息对应的第一评价结果,也可以将该量化值乘以预设系数后得到的乘积结果作为该节点的日志信息对应的第一评价结果。
[0071]
为了对如果确定第一评价结果进行更清楚的介绍,在此结合表2进行说明:
[0072]
表2
[0073]
[0074][0075]
结合上述表2进行举例介绍,对于节点1而言,节点1包括管理模块a、管理模块b、业务io模块、硬盘模块和硬件模块,节点1的日志信息包括管理模块a、管理模块b、业务io模块、硬盘模块和硬件模块共5个模块的日志信息,可以根据该5个模块的日志信息中的关键词确定各模块的告警类型,根据各模块的告警类型确定各模块的告警类型对应的量化值,进而根据各模块的告警类型对应的量化值确定节点1的第一评价结果,例如将各模块的告警类型对应的量化值之和作为第一评价结果或者将各模块的告警类型对应的量化值乘以对应的第一预设系数后得到的乘积结果之和作为第一评价结果。例如,管理模块a的日志信息中的关键词包括关键词1且其他模块的日志信息中不包括上述表1中的关键词,则结合上述表1,关键词1对应的目标告警类型是一般告警,若一般告警对应的量化值为6,则将该量化值作为管理模块a的量化值。由于其他模块中的日志信息中不包括上述表1中的关键词,则其他模块分别对应的量化值均为0,因此,节点1的第一评价结果等于管理模块a的量化值。需要说明的是,也可以将一般告警对应的量化值6乘以对应的第一预设系数0.1,得到的乘积结果为0.6作为该节点1的第一评价结果。
[0076]
对于节点2而言,若假设节点2的管理模块a的日志信息中包括关键词1以及管理模块b的日志信息中包括关键词2,且其他模块的日志信息中不包括上述表1中的关键词,由于关键词1对应的目标告警类型是一般告警,一般告警对应的量化值为6,即管理模块a的量化值等于6;管理模块b对应的故障的关键词包括关键词2,关键词2对应的目标告警类型是次要告警,次要告警对应的量化值为18,即管理模块b对应的量化值为18。若此处以将各模块的告警类型对应的量化值之和作为第一评价结果为例,则该节点2的第一评价结果等于管
理模块a的量化值与管理模块b的量化值之和,即等于24。
[0077]
s202、根据各待预测节点的资源使用情况确定对应的第二评价结果。
[0078]
具体地,计算机设备根据各待预测节点的资源使用情况,得到资源使用情况所对应的量化值,可以将该量化值作为该节点的资源使用情况对应的第二评价结果,也可以将该量化值乘以第二预设系数后得到的乘积结果作为该节点的资源使用情况对应的第二评价结果。
[0079]
假设节点1的资源使用情况包括cpu的使用情况、内存的使用情况和数据容量,则第二评价结果可以等于对cpu的使用情况的量化值、内存的使用情况的量化值和数据容量的量化值进行求和得到的求和结果,也可以等于该求和结果乘以第二预设系数得到的乘积结果作为第二评价结果。例如,cpu的使用情况对应的量化值为10,内存的使用情况对应的量化值为10,数据容量对应的量化值为1,则可以将21作为该节点1的第二评价结果,也可以将21乘以第二预设系数后得到的乘积结果作为第二评价结果。
[0080]
s203、根据各待预测节点的第一评价结果和第二评价结果,从各待预测节点中确定目标预测节点。
[0081]
其中,目标预测节点指的是被预测出未来可能会发生故障的待迁移节点。
[0082]
具体地,计算机设备根据各待预测节点的第一评价结果和第二评价结果,能够从各待预测节点中确定未来可能会发生故障的待迁移节点,将该未来可能会发生故障的待迁移节点作为目标预测节点。
[0083]
对于节点1而言,将各模块的告警类型对应的量化值之和作为节点1的第一评价结果,并将各模块的资源使用情况对应的量化值之和作为节点1的第二评价结果,将该节点1的第一评价结果与第二评价结果之和作为该节点1的综合评价结果,如果该节点1的综合评价结果大于等于预设迁移阈值,则认为该节点1在未来可能会发生故障,将节点1作为目标预测节点。例如,节点1的第一评价结果为6,节点1的第二评价结果为21,则节点1的综合评价结果为27,假设预设预设迁移阈值为20,节点1的综合评价结果大于预设预设迁移阈值,则将节点1作为目标预测节点。
[0084]
本技术实施例提供的资源迁移方法,首先计算机设备根据各待预测节点的日志信息确定对应的第一评价结果,根据各待预测节点的资源使用情况确定对应的第二评价结果,最后根据各待预测节点的第一评价结果和第二评价结果,从各待预测节点中确定目标预测节点。由于通过各待预测节点的日志信息和资源使用情况确定出评价结果,并预测出未来可能会发生故障的待迁移节点,未来可能会发生故障的待迁移节点可以即目标预测节点。因此,为后续目标预测节点迁移提供良好的基础,从而能够实现分布式存储的高可用性。
[0085]
图3为本技术实施例提供的一种评价结果确定方法的流程示意图,本实施例涉及的是如何根据各待预测节点的日志信息确定对应的第一评价结果的一种可能的实现方式,在上述实施例的基础上,上述的s201包括:
[0086]
s301、针对各待预测节点,根据待预测节点包括的各模块的日志信息,确定各模块的目标告警类型。
[0087]
具体地,针对各待预测节点,计算机设备根据预测节点的模块进行日志分类,比如可以分为管理模块、业务io模块、硬件模块等,计算机设备根据每个模块中的日志信息,确
定每个模块的目标告警类型。假设节点2为待预测节点,节点2包括管理模块a、管理模块b,该管理模块a的日志信息对应的故障的关键词包括关键词1,关键词1对应的目标告警类型是一般告警;管理模块b的日志信息对应的故障的关键词包括关键词2,关键词2对应的目标告警类型是次要告警。
[0088]
s302、根据各模块的目标告警类型和第一预设对应关系,确定各模块的第三评价结果;第一预设对应关系包括不同模块的告警类型与不同的评价结果之间的对应关系。
[0089]
具体地,计算机设备根据上述确定的各模块的目标告警类型,以及不同模块的告警类型与不同的评价结果之间的对应关系,确定各模块的第三评价结果。第一预设对应关系参考下表3所示,一般告警类型的量化值对应的第三评价结果为6,次要告警类型的量化值对应的第三评价结果为18,主要告警类型的量化值对应的第三评价结果为30,重要告警的量化值对应的第三评价结果为42,严重告警类型的量化值对应的第三评价结果为60。
[0090]
待预测节点2包括管理模块a、管理模块b,将管理模块a的目标告警类型对应的量化值作为该管理模块a的第三评价结果,并将管理模块b的目标告警类型对应的量化值作为该管理模块b的第三评价结果。例如,管理模块a的目标告警类型是一般告警,由于一般告警类型的量化值对应的第三评价结果为6,则将一般告警类型的量化值6作为该管理模块a的第三评价结果;管理模块b的目标告警类型是次要告警,由于次要告警类型的量化值对应的第三评价结果为18,则将次要告警类型的量化值18作为该管理模块b的第三评价结果。
[0091]
参照下述表3,表3中示出的第一预设对应关系如下:
[0092]
表3
[0093]
模块名称告警类型第三评价结果管理模块a一般告警6管理模块b次要告警18业务io模块主要告警30硬盘模块-硬盘重要告警42硬件模块-raid卡严重告警60
[0094]
s303、根据各模块的第三评价结果,确定各待预测节点的日志信息对应的第一评价结果。
[0095]
具体地,计算机设备根据各带预测节点中各模块的第三评价结果,确定各待预测节点的日志信息对应的第一评价结果。参考表2,对于节点2而言,若假设待预测节点中节点2包括管理模块a和管理模块b,将管理模块a的目标告警类型对应的量化值作为该管理模块a的第三评价结果,并将管理模块b的目标告警类型对应的量化值作为该管理模块b的第三评价结果,将管理模块a的第三评价结果与管理模块b的第三评价结果之和作为节点2的日志信息对应的第一评价结果;也可以将管理模块a的第三评价结果乘以预设系数后得到的第一乘积结果,与管理模块b的第三评价结果乘以预设系数后得到的第二乘积结果之和,作为该节点的日志信息对应的第一评价结果。
[0096]
例如,管理模块a的目标告警类型是一般告警,一般告警对应的量化值6作为管理模块a的第三评价结果,管理模块b的目标告警类型是次要告警,次要告警对应的量化值18作为管理模块b的第三评价结果,将管理模块a的第三评价结果6与管理模块b的第三评价结果18求和得到求和结果等于24,则24为节点2的日志信息对应的第一评价结果。需要说明的
是,也可以将模块a的第三评价结果6乘以预设系数0.1后得到的第一乘积结果0.6,与管理模块b的第三评价结果18乘以预设系数0.3后得到的第二乘积结果5.2,求和得到的5.8作为该节点的日志信息对应的第一评价结果。
[0097]
本技术实施例提供的资源迁移方法之中,通过针对各待预测节点,计算机设备根据待预测节点包括的各模块的日志信息,确定各模块的目标告警类型,然后根据各模块的目标告警类型和第一预设对应关系,确定各模块的第三评价结果,其中,第一预设对应关系包括不同模块的告警类型与不同的评价结果之间的对应关系,最后根据各模块的第三评价结果,确定各待预测节点的日志信息对应的第一评价结果。通过日志信息确定目标告警类型对应的评价结果,利于预测出未来会发生故障的待迁移节点,即有利于确定目标预测节点。
[0098]
图4为本技术实施例提供的一种目标告警类型确定方法的流程示意图,本实施例涉及的是针对各所述待预测节点,如何根据待预测节点包括的各模块的日志信息,确定各所述模块的目标告警类型的一种可能的实现方式,在上述实施例的基础上,上述的s301包括:
[0099]
s401、针对各待预测节点,根据待预测节点包括的各模块的日志信息,确定各模块的日志信息的关键词。
[0100]
具体地,每个待预测节点包括多个模块,每个模块的日志信息包含不同的故障的关键词,比如关键词1、关键词2等,其中,故障的关键词由专家经验预先设定。计算机设备根据待预测节点包括的各模块的日志信息,确定各模块的日志信息的关键词。参照表2,假设待预测节点2包括管理模块a、管理模块b,管理模块a中包括关键词1,管理模块b中包括关键词2。
[0101]
s402、根据各模块的日志信息的关键词和第二预设对应关系,确定各模块的目标告警类型;第二预设对应关系包括不同的预设关键词与不同的预设告警类型之间的对应关系。
[0102]
具体地,计算机设备根据各模块的日志信息的关键词,以及不同的预设关键词与不同的预设告警类型之间的对应关系,确定各模块的目标告警类型,参考上述的表2和下述的表4,表4中示出了上述表2中节点1的管理模块a对应的预设关键词,管理模块a对应的预设关键词包括关键词1、关键词2、关键词3、关键词4、关键词5。预设告警类型为一般告警、次要告警、主要告警、重要告警、严重告警。例如,预设关键词1对应的预设告警类型是一般告警,预设关键词2对应的预设告警类型是次要告警。需要说明的是,预设告警类型是由当前模块存在的故障对存储系统服务影响的权重来分类。
[0103]
参照下述表4,表4中示出的第二预设对应关系如下:
[0104]
表4
[0105]
预设关键词预设告警类型关键词1一般告警关键词2次要告警关键词3主要告警关键词4重要告警关键词5严重告警
[0106]
本技术实施例提供的资源迁移方法,目标告警类型确定方法针对各待预测节点,根据待预测节点包括的各模块的日志信息,确定各模块的日志信息的关键词,然后根据各模块的日志信息的关键词和第二预设对应关系,确定各模块的目标告警类型,其中,第二预设对应关系包括不同的预设关键词与不同的预设告警类型之间的对应关系。在实际故障监测过程中,判断待预测节点的日志是否存在某个故障的关键词,如果存在,则关键词对应了一个预设告警类型,由此确定出各个模块的目标告警类型,进而提高了故障的预测能力。
[0107]
在一个实施例中,本实施例涉及的是如何根据各待预测节点的资源使用情况,确定对应的第二评价结果的一种可能的实现方式,在上述实施例的基础上,上述的s202包括:
[0108]
针对各待预测节点,根据待预测节点的中央处理器cpu的资源使用情况、内存资源使用情况、放置群组pg的个数以及数据容量中的至少一项,确定待预测节点对应的第二评价结果。
[0109]
参照下述表5,表5中示出的资源使用情况与第二评价结果关系如下:
[0110]
表5
[0111][0112]
具体地,计算机设备根据各待预测节点的中央处理器cpu的资源使用情况、内存资源使用情况、放置群组pg的个数、数据容量这4种资源中,确定每种资源所对应的量化值,即通过至少一项确定了第二评价结果。例如中央处理器cpu的资源使用情况对应的量化值为:使用率50%以下为1、使用率50%~70%为3、使用率70%~90%为5、使用率90%以上为10;内存资源使用情况的对应量化值为:使用率50%以下为1、使用率50%~70%为3、使用率70%~90%为5、使用率90%以上为10;放置群组pg的个数的对应量化值为:节点的pg数大于节点的pg平均数则为10,否则为0;数据容量对应量化值为:使用率50%以下为1、使用率50%~80%为3、使用率80%~90%为7、使用率90%以上为10。参考表4,当cpu使用率98%时对应的量化值为10,内存的使用率95%时对应的量化值为10,放置群组pg的个数小于节点的放置群组pg平均数时对应的量化值为0,数据容量使用率30%时对应的量化值为1时,可以将这4种量化值相加后得到的21作为第二评价结果。
[0113]
本技术实施例提供的资源迁移方法,确定第二评价结果时,针对各待预测节点,计算机设备根据待预测节点的中央处理器cpu的资源使用情况、内存资源使用情况、放置群组pg的个数以及数据容量中的至少一项,确定待预测节点对应的第二评价结果。由于确定第二评价结果时考虑到了多项资源使用情况,因此,能够更好地预测故障节点,进而降低存储服务异常导致的数据不可用和性能下降的风险。
[0114]
图5为本技术实施例提供的一种目标预测节点确定方法的流程示意图,本实施例涉及的是如何根据各待预测节点的第一评价结果和第二评价结果,从各待预测节点中确定
目标预测节点的一种可能的实现方式,在上述实施例的基础上,上述的s203包括:
[0115]
s501、根据各待预测节点的第一评价结果和第二评价结果,确定各待预测节点的综合评价结果。
[0116]
参照下述表6,表6中示出的第一评价结果与第二评价结果关系如下:
[0117]
表6
[0118]
第一评价结果第二评价结果综合评价结果62127301848421153603191
[0119]
具体地,计算机设备根据各待预测节点的第一评价结果和第二评价结果,能够得到各待预测节点的综合评价结果。
[0120]
对于节点1而言,将各模块的告警类型对应的量化值之和作为节点1的第一评价结果,并将各模块的资源使用情况对应的量化值之和作为节点1的第二评价结果,将该节点1的第一评价结果与第二评价结果之和作为该节点1的综合评价结果。例如,节点1的各模块的告警类型对应的量化值之和为6,则节点1的第一评价结果为6,节点1的各模块的资源使用情况对应的量化值之和为21,则节点1的第二评价结果为21,若将节点1的第一评价结果与第二评价结果之和作为该节点1的综合评价结果,则节点1的综合评价结果为27。
[0121]
s502、根据各待预测节点的综合评价结果,从各待预测节点中确定目标预测节点。
[0122]
具体地,计算机设备根据s501得到的各待预测节点的综合评价结果,能够从各待预测节点中确定未来可能会发生故障的待迁移节点,作为目标预测节点。参考表1,假设待预测节点1的综合评价结果为72,该综合评价结果满足了迁移条件,则待预测节点1为目标预测节点,假设待预测节点2的综合评价结果为68,该综合评价结果未满足迁移条件,则待预测节点2不作为目标预测节点。
[0123]
本技术实施例提供的资源迁移方法,在确定目标预测节点时,首先计算机设备根据各待预测节点的第一评价结果和第二评价结果,确定各待预测节点的综合评价结果,最后根据各待预测节点的综合评价结果,从各待预测节点中确定目标预测节点。由于计算机设备根据综合评价结果确定目标预测节点,因此,能够精准地找出可能会发生故障的待迁移节点,利于后续的资源迁移。
[0124]
在一个实施例中,本实施例涉及的是如何根据各待预测节点的综合评价结果,从各待预测节点中确定目标预测节点的一种可能的实现方式,在上述实施例的基础上,上述的s602包括:
[0125]
将综合评价结果大于等于预设迁移阈值的待预测节点确定为目标预测节点。
[0126]
其中,预设迁移阈值指的是触发故障迁移的阈值。
[0127]
具体地,计算机设备将各待预测节点的综合评价结果大于等于预设迁移阈值的待预测节点,作为目标预测节点,当待预测节点上的综合评价结果满足预设迁移阈值则进行迁移,否则该待预测节点将不会迁移,则不作为目标预测节点。参考表2,假设待预测节点1的综合评价结果为72,该综合评价结果大于预设迁移阈值70,则待预测节点1为目标预测节点。假设待预测节点2的综合评价结果为68,该综合评价结果小于预设迁移阈值70,则待预
测节点2不作为目标预测节点。
[0128]
本技术实施例提供的资源迁移方法,将综合评价结果大于等于预设迁移阈值的待预测节点确定为目标预测节点。由于设置了预设迁移阈值,满足预设迁移阈值的待预测节点才作为目标预测节点,因此,进而提高了对故障预测的正确率。
[0129]
在一个实施例中,图6为本技术实施例提供的一种目的节点确定方法的流程示意图,在上述实施例的基础上,该方法还包括:
[0130]
s601、获取各第一候选节点上存储的目标资源。
[0131]
其中,各第一候选节点指的是在选取目的节点过程中,尚未判断是否可作为目的节点的各个节点;目标资源指的是对块文件的存储进行组织和位置映射的pg。
[0132]
具体地,在选取目的节点过程中,计算机设备获取第一候选节点上存储的目标资源pg。
[0133]
s602、将目标资源中未包括待迁移资源的副本、且数据容量大于等于预设容量阈值的第一候选节点作为第二候选节点。
[0134]
其中,第二候选节点指的是在选取目的节点过程中,第一候选节点中满足需求的节点。
[0135]
具体地,计算机设备将同时满足以下需求的第一候选节点作为第二候选节点:其一,第一候选节点上存储的目标资源中没有包括待迁移资源的副本;其二,目标资源的数据容量大于等于预设容量阈值,保证目标预测节点上的待迁移资源迁移至目的节点时,目的节点的总量不会超过节点能承受的数据总量的上限;另外,当第一候选节点包括较多的pg时,此类第一候选节点不作为第二候选节点,可以称为故障迁移例外,这是由于目前的分布式存储中集群为一个木桶效应,因集群内每个节点的存储服务上承载的pg的个数不一致,当某一个存储服务使用容量满时,会导致整个集群只能读不能写,所以部分放置群组pg很多的节点可以设置不对其进行迁入,避免数据写入过多影响整个集群使用。
[0136]
s603、根据第二候选节点的资源使用情况,从第二候选节点中确定目的节点。
[0137]
计算机设备根据第二候选节点的资源使用情况,即第二候选节点上的中央处理器cpu的资源使用情况、内存资源使用情况、磁盘容量的使用情况,从第二候选节点中确定上述资源使用率低的节点作为目的节点,否则将重新寻找新的目的节点。
[0138]
本技术实施例提供的资源迁移方法,首先计算机设备获取各第一候选节点上存储的目标资源,其次将目标资源中未包括待迁移资源的副本、且数据容量大于等于预设容量阈值的第一候选节点作为第二候选节点,最后根据第二候选节点的资源使用情况,从第二候选节点中确定目的节点。由于每个节点上的硬盘容量有限,意味着选取目的节点时需要满足数据容量的要求,而资源利用率高的节点已无法承载更多数据,意味着需要考虑到资源使用情况。因此,当目标预测节点发生异常时,将满足需求的目的节点作为数据迁移的节点,不影响系统的业务流量,并能够提高目标预测节点的迁移成功率。
[0139]
应该理解的是,虽然如上的各实施例所涉及的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,如上的各实施例所涉及的流程图中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤
或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
[0140]
基于同样的发明构思,本技术实施例还提供了一种用于实现上述所涉及的资源迁移方法的资源迁移装置。该装置所提供的解决问题的实现方案与上述方法中所记载的实现方案相似,故下面所提供的一个或多个资源迁移装置实施例中的具体限定可以参见上文中对于资源迁移方法的限定,在此不再赘述。
[0141]
图7为本技术实施例提供的一种资源迁移装置的结构示意图,该装置包括:第一获取模块、第一确定模块和迁移模块,其中:
[0142]
第一获取模块701,用于获取各待预测节点的日志信息和资源使用情况;
[0143]
第一确定模块702,根据各待预测节点的日志信息和资源使用情况,从各待预测节点中确定目标预测节点;
[0144]
迁移模块703,将目标预测节点上的待迁移资源迁移至目的节点;目的节点的资源使用情况满足预设条件且目的节点上未存储有待迁移资源的副本。
[0145]
在一个实施例中,该第一确定模块702包括:
[0146]
第一确定子模块,用于根据各待预测节点的日志信息确定对应的第一评价结果;
[0147]
第二确定子模块,用于根据各待预测节点的资源使用情况确定对应的第二评价结果;
[0148]
第三确定子模块,用于根据各待预测节点的第一评价结果和第二评价结果,从各待预测节点中确定目标预测节点。
[0149]
在一个实施例中,该第一确定子模块包括:
[0150]
第一确定单元,用于针对各待预测节点,根据待预测节点包括的各模块的日志信息,确定各模块的目标告警类型;
[0151]
第二确定单元,用于根据各模块的目标告警类型和第一预设对应关系,确定各模块的第三评价结果;第一预设对应关系包括不同模块的告警类型与不同的评价结果之间的对应关系;
[0152]
第三确定单元,用于根据各模块的第三评价结果,确定各待预测节点的日志信息对应的第一评价结果。
[0153]
在一个实施例中,该第一确定单元,具体用于针对各待预测节点,根据待预测节点包括的各模块的日志信息,确定各模块的日志信息的关键词;根据各模块的日志信息的关键词和第二预设对应关系,确定各模块的目标告警类型;第二预设对应关系包括不同的预设关键词与不同的预设告警类型之间的对应关系。
[0154]
在一个实施例中,该第二确定子模块,具体用于针对各待预测节点,根据待预测节点的中央处理器cpu的资源使用情况、内存资源使用情况、放置群组pg的个数以及数据容量中的至少一项,确定待预测节点对应的第二评价结果。
[0155]
在一个实施例中,该第三确定子模块包括:
[0156]
第四确定单元,用于根据各待预测节点的第一评价结果和第二评价结果,确定各待预测节点的综合评价结果;
[0157]
第五确定单元,用于根据各待预测节点的综合评价结果,从各待预测节点中确定目标预测节点。
[0158]
在一个实施例中,该第五确定单元,具体用于将综合评价结果大于等于预设迁移阈值的待预测节点确定为目标预测节点。
[0159]
在一个实施例中,该资源迁移装置还包括:
[0160]
第二获取模块,用于获取各第一候选节点上存储的目标资源;
[0161]
第二确定模块,用于将目标资源中未包括待迁移资源的副本、且数据容量大于等于预设容量阈值的第一候选节点作为第二候选节点;
[0162]
第三确定模块,用于根据第二候选节点的资源使用情况,从第二候选节点中确定目的节点。
[0163]
上述资源迁移装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
[0164]
在一个实施例中,提供了一种计算机设备,该计算机设备可以是服务器,其内部结构图可以如图8所示。该计算机设备包括通过系统总线连接的处理器、存储器和网络接口。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质和内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种资源迁移方法。
[0165]
本领域技术人员可以理解,图8中示出的结构,仅仅是与本技术方案相关的部分结构的框图,并不构成对本技术方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
[0166]
在一个实施例中,提供了一种计算机设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现以下步骤:
[0167]
获取各待预测节点的日志信息和资源使用情况;
[0168]
根据各待预测节点的日志信息和资源使用情况,从各待预测节点中确定目标预测节点;
[0169]
将目标预测节点上的待迁移资源迁移至目的节点;目的节点的资源使用情况满足预设条件且目的节点上未存储有待迁移资源的副本。
[0170]
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
[0171]
根据各待预测节点的日志信息确定对应的第一评价结果;
[0172]
根据各待预测节点的资源使用情况确定对应的第二评价结果;
[0173]
根据各待预测节点的第一评价结果和第二评价结果,从各待预测节点中确定目标预测节点。
[0174]
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
[0175]
针对各待预测节点,根据待预测节点包括的各模块的日志信息,确定各模块的目标告警类型;
[0176]
根据各模块的目标告警类型和第一预设对应关系,确定各模块的第三评价结果;第一预设对应关系包括不同模块的告警类型与不同的评价结果之间的对应关系;
[0177]
根据各模块的第三评价结果,确定各待预测节点的日志信息对应的第一评价结
果。
[0178]
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
[0179]
针对各待预测节点,根据待预测节点包括的各模块的日志信息,确定各模块的日志信息的关键词;
[0180]
根据各模块的日志信息的关键词和第二预设对应关系,确定各模块的目标告警类型;第二预设对应关系包括不同的预设关键词与不同的预设告警类型之间的对应关系。
[0181]
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
[0182]
针对各待预测节点,根据待预测节点的中央处理器cpu的资源使用情况、内存资源使用情况、放置群组pg的个数以及数据容量中的至少一项,确定待预测节点对应的第二评价结果。
[0183]
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
[0184]
根据各待预测节点的第一评价结果和第二评价结果,确定各待预测节点的综合评价结果;
[0185]
根据各待预测节点的综合评价结果,从各待预测节点中确定目标预测节点。
[0186]
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
[0187]
将综合评价结果大于等于预设迁移阈值的待预测节点确定为目标预测节点。
[0188]
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
[0189]
获取各第一候选节点上存储的目标资源;
[0190]
将目标资源中未包括待迁移资源的副本、且数据容量大于等于预设容量阈值的第一候选节点作为第二候选节点;
[0191]
根据第二候选节点的资源使用情况,从第二候选节点中确定目的节点。
[0192]
在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现以下步骤:
[0193]
获取各待预测节点的日志信息和资源使用情况;
[0194]
根据各待预测节点的日志信息和资源使用情况,从各待预测节点中确定目标预测节点;
[0195]
将目标预测节点上的待迁移资源迁移至目的节点;目的节点的资源使用情况满足预设条件且目的节点上未存储有待迁移资源的副本。
[0196]
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
[0197]
根据各待预测节点的日志信息确定对应的第一评价结果;
[0198]
根据各待预测节点的资源使用情况确定对应的第二评价结果;
[0199]
根据各待预测节点的第一评价结果和第二评价结果,从各待预测节点中确定目标预测节点。
[0200]
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
[0201]
针对各待预测节点,根据待预测节点包括的各模块的日志信息,确定各模块的目标告警类型;
[0202]
根据各模块的目标告警类型和第一预设对应关系,确定各模块的第三评价结果;第一预设对应关系包括不同模块的告警类型与不同的评价结果之间的对应关系;
[0203]
根据各模块的第三评价结果,确定各待预测节点的日志信息对应的第一评价结
果。
[0204]
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
[0205]
针对各待预测节点,根据待预测节点包括的各模块的日志信息,确定各模块的日志信息的关键词;
[0206]
根据各模块的日志信息的关键词和第二预设对应关系,确定各模块的目标告警类型;第二预设对应关系包括不同的预设关键词与不同的预设告警类型之间的对应关系。
[0207]
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
[0208]
针对各待预测节点,根据待预测节点的中央处理器cpu的资源使用情况、内存资源使用情况、放置群组pg的个数以及数据容量中的至少一项,确定待预测节点对应的第二评价结果。
[0209]
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
[0210]
根据各待预测节点的第一评价结果和第二评价结果,确定各待预测节点的综合评价结果;
[0211]
根据各待预测节点的综合评价结果,从各待预测节点中确定目标预测节点。
[0212]
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
[0213]
将综合评价结果大于等于预设迁移阈值的待预测节点确定为目标预测节点。
[0214]
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
[0215]
获取各第一候选节点上存储的目标资源;
[0216]
将目标资源中未包括待迁移资源的副本、且数据容量大于等于预设容量阈值的第一候选节点作为第二候选节点;
[0217]
根据第二候选节点的资源使用情况,从第二候选节点中确定目的节点。
[0218]
在一个实施例中,提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现以下步骤:
[0219]
获取各待预测节点的日志信息和资源使用情况;
[0220]
根据各待预测节点的日志信息和资源使用情况,从各待预测节点中确定目标预测节点;
[0221]
将目标预测节点上的待迁移资源迁移至目的节点;目的节点的资源使用情况满足预设条件且目的节点上未存储有待迁移资源的副本。
[0222]
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
[0223]
根据各待预测节点的日志信息确定对应的第一评价结果;
[0224]
根据各待预测节点的资源使用情况确定对应的第二评价结果;
[0225]
根据各待预测节点的第一评价结果和第二评价结果,从各待预测节点中确定目标预测节点。
[0226]
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
[0227]
针对各待预测节点,根据待预测节点包括的各模块的日志信息,确定各模块的目标告警类型;
[0228]
根据各模块的目标告警类型和第一预设对应关系,确定各模块的第三评价结果;第一预设对应关系包括不同模块的告警类型与不同的评价结果之间的对应关系;
[0229]
根据各模块的第三评价结果,确定各待预测节点的日志信息对应的第一评价结
果。
[0230]
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
[0231]
针对各待预测节点,根据待预测节点包括的各模块的日志信息,确定各模块的日志信息的关键词;
[0232]
根据各模块的日志信息的关键词和第二预设对应关系,确定各模块的目标告警类型;第二预设对应关系包括不同的预设关键词与不同的预设告警类型之间的对应关系。
[0233]
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
[0234]
针对各待预测节点,根据待预测节点的中央处理器cpu的资源使用情况、内存资源使用情况、放置群组pg的个数以及数据容量中的至少一项,确定待预测节点对应的第二评价结果。
[0235]
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
[0236]
根据各待预测节点的第一评价结果和第二评价结果,确定各待预测节点的综合评价结果;
[0237]
根据各待预测节点的综合评价结果,从各待预测节点中确定目标预测节点。
[0238]
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
[0239]
将综合评价结果大于等于预设迁移阈值的待预测节点确定为目标预测节点。
[0240]
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
[0241]
获取各第一候选节点上存储的目标资源;
[0242]
将目标资源中未包括待迁移资源的副本、且数据容量大于等于预设容量阈值的第一候选节点作为第二候选节点;
[0243]
根据第二候选节点的资源使用情况,从第二候选节点中确定目的节点。
[0244]
需要说明的是,本技术所涉及的用户信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等),均为经用户授权或者经过各方充分授权的信息和数据。
[0245]
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本技术所提供的各实施例中所使用的对存储器、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(read-only memory,rom)、磁带、软盘、闪存、光存储器、高密度嵌入式非易失性存储器、阻变存储器(reram)、磁变存储器(magnetoresistive random access memory,mram)、铁电存储器(ferroelectric random access memory,fram)、相变存储器(phase change memory,pcm)、石墨烯存储器等。易失性存储器可包括随机存取存储器(random access memory,ram)或外部高速缓冲存储器等。作为说明而非局限,ram可以是多种形式,比如静态随机存取存储器(static random access memory,sram)或动态随机存取存储器(dynamic random access memory,dram)等。本技术所提供的各实施例中所涉及的数据库可包括关系型数据库和非关系型数据库中至少一种。非关系型数据库可包括基于区块链的分布式数据库等,不限于此。本技术所提供的各实施例中所涉及的处理器可为通用处理器、中央处理器、图形处理器、数字信号处理器、可编程逻辑器、基于量子计算的数据处理逻辑器等,不限于此。
[0246]
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
[0247]
以上所述实施例仅表达了本技术的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本技术专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本技术构思的前提下,还可以做出若干变形和改进,这些都属于本技术的保护范围。因此,本技术的保护范围应以所附权利要求为准。
再多了解一些

本文用于创业者技术爱好者查询,仅供学习研究,如用于商业用途,请联系技术所有人。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献