技术新讯 > 计算推算,计数设备的制造及其应用技术 > 一种存储资源管理方法、装置及可读存储介质与流程  >  正文

一种存储资源管理方法、装置及可读存储介质与流程

  • 国知局
  • 2024-07-31 22:54:41

本发明涉及资源调度管理,具体为一种存储资源管理方法、装置及可读存储介质。

背景技术:

1、slurm(simple linux utility for resource management,linux平台简单资源调度管理工具)是一个开源、高可伸缩的集群管理和linux集群作业调度系统,被世界范围内的超级计算机和计算机集群广泛采用。通过slurm可以为用户分配集群中的资源以便执行作业并根据作业的优先级和调度策略进行作业管理和调度以充分发挥集群性能。

2、通过设置用户和组织的存储配额,利用虚拟存储系统对用户和组织的存储用量进行记录,可以有效地对用户和组织的存储使用情况进行判断,而现阶段,通过多种原理实现的共享存储技术,仍未实现从底层对用户和组织的存储使用量进行限制,从而无法对每个用户的提交作业流程进行精准管控,造成资源分配不均,系统负载过高的问题。

技术实现思路

1、本发明实施例的目的在于提供一种存储资源管理方法、装置及可读存储介质,解决现有技术中无法针对每个用户的提交作业流程进行精准管控,造成系统负载过高的问题,具体技术方案如下:

2、根据本技术实施例的第一方面,提供一种存储资源管理方法,所述方法包括:

3、响应于用户发起的作业提交流程,获取所述用户所属组织的第一存储配额与第一存储资源使用量,根据所述第一存储配额与所述第一存储资源使用量确定所述组织的第一配额状态;

4、获取所述用户的第二存储配额与第二存储资源使用量,根据所述第二存储配额与所述第二存储资源使用量确定所述用户的第二配额状态;

5、若所述第一配额状态表征为所述组织的存储资源使用量超出使用阈值,和/或,若所述第二配额状态表征为所述用户的存储资源使用量超出使用阈值,将所述用户关联至限制性服务;

6、若所述用户与所述限制性服务关联,取消所述用户的作业提交流程;

7、其中,所述组织包含若干所述用户,属于同一个组织中的各个用户对应的第二存储配额之和小于等于组织对应的第一存储配额,所述第一存储据配额为所述组织的存储资源使用阈值,所述第二存储据配额为所述用户的存储资源使用阈值。

8、可选地,在所述获取所述用户所属组织的第一存储配额与第一存储资源使用量,根据所述第一存储配额与所述第一存储资源使用量确定所述组织的第一配额状态之前,还包括:

9、按照第一时间间隔统计所述第一存储资源使用量,记录统计所述第一存储资源使用量的第一统计时间;

10、按照第一时间间隔统计所述用户的第二存储资源使用量,记录统计所述第二存储资源使用量的第二统计时间。

11、可选地,在根据所述第一存储配额与所述第一存储资源使用量确定所述组织的第一配额状态之前,所述方法还包括:

12、获取所述第一存储资源使用量的第一统计时间与所述第二存储资源使用量的第二统计时间;

13、获取预设时间范围,若所述第一统计时间与当前时间的时间差值超出所述预设时间范围,和/或,若所述第二统计时间与当前时间的时间差值超出所述预设时间范围,重新统计对应于当前时间的第一存储资源使用量与对应于当前时间的第二存储资源使用量;

14、将所述第一存储资源使用量更新为所述对应于当前时间的第一存储资源使用量,并将所述第一统计时间更新为所述当前时间;

15、将所述第二存储资源使用量更新为所述对应于当前时间的第二存储资源使用量,并将所述第二统计时间更新为所述当前时间。

16、可选地,还包括:

17、响应于将所述组织与作业调度系统进行关联,为所述组织设置第一存储配额;

18、响应于将所述用户与所述作业调度系统进行关联,为所述用户设置第二存储配额。

19、可选地,所述为所述组织设置第一存储配额,包括:

20、获取所述组织的第一标识,根据所述第一标识设置所述第一存储配额;

21、所述为所述用户设置第二存储配额,包括:

22、获取所述用户的第二标识,根据所述第二标识设置所述第二存储配额。

23、可选地,所述根据所述第一存储配额与所述第一存储资源使用量确定所述组织的第一配额状态,包括:

24、若所述第一存储配额大于所述第一存储资源使用量,获取所述组织的第一配额状态表征为所述组织的存储资源使用量未达到使用阈值;

25、若所述第一存储配额小于等于所述第一存储资源使用量,获取所述组织的第一配额状态表征为所述组织的存储资源使用量超出使用阈值;

26、所述根据所述第二存储配额与所述第二存储资源使用量确定所述用户的第二配额状态,包括:

27、若所述第二存储配额大于所述第二存储资源使用量,获取所述用户的第二配额状态表征为所述用户的存储资源使用量未达到使用阈值;

28、若所述第二存储配额小于等于所述第二存储资源使用量,获取所述用户的第二配额状态表征为所述用户的存储资源使用量超出使用阈值。

29、可选地,所述若所述用户与所述限制性服务关联,取消所述用户的作业提交,还包括;

30、若所述用户未与所述限制性服务进行关联,提交所述用户的作业提交流程至所述作业调度系统。

31、根据本技术实施例的第二方面,提供一种存储资源管理装置,所述装置包括:

32、所述限制判断模块,用于响应于用户发起的作业提交流程,获取用户所属组织的第一存储配额与第一存储资源使用量,根据所述第一存储配额与所述第一存储资源使用量确定所述组织的第一配额状态,获取所述用户的第二存储配额与第二存储资源使用量,根据所述第二存储配额与所述第二存储资源使用量确定所述用户的第二配额状态,若所述第一配额状态表征为所述组织的存储资源使用量超出使用阈值,和/或,所述第二配额状态表征为所述用户的存储资源使用量超出使用阈值,将所述用户关联至限制性服务;

33、所述作业提交模块,用于若所述用户与所述限制性服务关联,取消所述用户的作业提交流程;

34、其中,所述组织包含若干所述用户,属于同一个组织中的各个用户对应的第二存储配额之和小于等于组织对应的第一存储配额,所述第一存储配额为所述组织的存储资源使用阈值,所述第二存储配额为所述用户的存储资源使用阈值。

35、根据本技术实施例的第三方面,提供一种电子设备,包括:

36、一个或多个处理器;存储器;一个或多个程序,其中所述一个或多个程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行,所述一个或多个程序配置用于实现第一方面所述的存储资源管理方法。

37、根据本技术实施例的第四方面,提供一种非易失性可读存储介质,当所述非易失性可读存储介质中的指令由电子设备的处理器执行时,使得所述电子设备能够执行第一方面所述的存储资源管理方法。

38、本技术实施例提供的技术方案可以包括以下有益效果:

39、本技术实施例公开的存储资源管理方法,当用户发起的作业提交流程时,对用户所属组织的第一存储配额与第一存储资源使用量进行获取,并根据第一存储配额与第一存储资源使用量确定组织的第一配额状态,以及对用户的第二存储配额与第二存储资源使用量进行获取,根据第二存储配额与第二存储资源使用量确定用户的第二配额状态,若第一配额状态表征为组织的存储资源使用量超出使用阈值,和/或,若第二配额状态表征为用户的存储资源使用量超出使用阈值,将用户关联至限制性服务。本技术通过为每个用户与组织设置存储资源可用的配额阈值,并针对发起作业提交流程的用户,将其存储配额与实际使用量进行比对,能够根据用户当前的存储资源使用情况对用户所提交的流程进行限制,避免系统中各用户与组织的资源分配不均匀,通过在作业调度系统中配置预校验脚本,对超出配额限制的用户关联限制性服务,实现从底层对每个用户与组织对作业提交的限制,弥补了作业调度系统自身的特性短板,针对每个提交作业流程进行精准管控,实现更好地资源分配,降低系统负荷。

40、应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本技术。

本文地址:https://www.jishuxx.com/zhuanli/20240730/195270.html

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 YYfuon@163.com 举报,一经查实,本站将立刻删除。