技术新讯 > 计算推算,计数设备的制造及其应用技术 > 一种数据处理方法、装置、设备、介质、产品及系统与流程  >  正文

一种数据处理方法、装置、设备、介质、产品及系统与流程

  • 国知局
  • 2024-11-06 15:05:47

本技术涉及计算机,特别涉及一种数据处理方法、装置、设备、介质、产品及系统。

背景技术:

1、在存储系统中,为保证数据存储的可靠性,常利用磁盘阵列进行数据存储。例如,使用raid6存储数据时,可基于raid6的特性提高数据存储的容错率。但raid6对于写操作存在天然的读写放大,增加了写延迟,写操作的响应时间较长。

2、因此,如何降低存储系统的写响应时长和写延迟,是本领域技术人员需要解决的问题。

技术实现思路

1、有鉴于此,本技术的目的在于提供一种数据处理方法、装置、设备、介质、产品及系统,以降低存储系统的写响应时长和写延迟。其具体方案如下:

2、第一方面,本技术提供了一种数据处理方法,包括:

3、接收客户端发送的并发写请求;

4、确定所述并发写请求对应的第一逻辑地址和第二逻辑地址;所述第一逻辑地址用于确定所述并发写请求对应的写数据在多个镜像阵列条带池中的存储位置;所述第二逻辑地址用于确定所述并发写请求对应的写数据在含校验磁盘阵列中的存储位置;

5、根据所述第一逻辑地址,将所述并发写请求对应的写数据存储于所述多个镜像阵列条带池后,返回相应写响应至所述客户端,并根据所述第二逻辑地址,将所述并发写请求对应的写数据存储于所述含校验磁盘阵列。

6、可选地,确定所述并发写请求对应的第一逻辑地址和第二逻辑地址,包括:

7、在预设缓存池中,按照负载均衡策略为所述并发写请求分配得到所述第一逻辑地址;所述预设缓存池包括众多镜像阵列条带池;

8、根据所述并发写请求的请求内容确定所述第二逻辑地址。

9、可选地,根据所述第一逻辑地址,将所述并发写请求对应的写数据存储于所述多个镜像阵列条带池,包括:

10、通过查询第一映射表确定所述第一逻辑地址对应的第一物理地址;

11、确定所述第一物理地址所属的控制器节点;

12、利用所述控制器节点将所述并发写请求对应的写数据,分散存储于所述多个镜像阵列条带池。

13、可选地,利用所述控制器节点将所述并发写请求对应的写数据,分散存储于所述多个镜像阵列条带池,包括:

14、确定所述多个镜像阵列条带池分别对应的多个控制线程;

15、利用所述多个控制线程将所述并发写请求对应的写数据,分散存储于所述多个镜像阵列条带池。

16、可选地,返回相应写响应至所述客户端,包括:

17、若所述并发写请求中的任意请求写成功,则返回相应写成功消息至所述客户端;

18、若所述并发写请求中的任意请求写失败,则返回相应写失败消息至所述客户端。

19、可选地,在任意镜像阵列条带池中,将同一写数据存储至当前镜像阵列条带池中的两个互为镜像的磁盘。

20、可选地,根据所述第二逻辑地址,将所述并发写请求对应的写数据存储于所述含校验磁盘阵列,包括:

21、通过查询第二映射表确定所述第二逻辑地址对应的第二物理地址;

22、按照所述第二物理地址从所述含校验磁盘阵列中读取得到旧数据和旧校验数据;

23、将所述旧数据与所述并发写请求对应的写数据进行异或运算,得到中间校验数据;

24、根据所述旧校验数据和所述中间校验数据计算得到新校验数据;

25、将所述新校验数据和所述并发写请求对应的写数据,以覆盖写方式存储至所述第二物理地址。

26、可选地,还包括:

27、针对所述并发写请求中的各个写请求分别构建操作记录信息;所述操作记录信息包括:所述并发写请求中的任一写请求对应的第一逻辑地址、该写请求对应的第二逻辑地址以及处理状态信息。

28、可选地,所述处理状态信息包括:正在处理状态、加锁状态、第一次存储完成状态和第二次存储完成状态;

29、相应地,在所述并发写请求中的任一写请求被处理的过程中,在所述处理状态信息中实时记录正在处理状态、加锁状态、第一次存储完成状态和第二次存储完成状态。

30、可选地,还包括:

31、在所述并发写请求中的任一写请求对应的处理状态信息中记录有第二次存储完成状态后,删除该写请求对应的操作记录信息。

32、可选地,确定所述并发写请求对应的第一逻辑地址和第二逻辑地址之前,还包括:

33、为所述并发写请求分配内存地址;

34、按照所述内存地址将所述并发写请求对应的写数据存入相应内存区。

35、可选地,在根据所述第二逻辑地址,将所述并发写请求对应的写数据存储于所述含校验磁盘阵列之后,还包括:

36、删除所述内存区中的所述并发写请求对应的写数据。

37、可选地,根据所述第二逻辑地址,将所述并发写请求对应的写数据存储于所述含校验磁盘阵列,包括:

38、异步执行根据所述第二逻辑地址,将所述并发写请求对应的写数据存储于所述含校验磁盘阵列的步骤。

39、第二方面,本技术提供了一种数据处理装置,包括:

40、接收模块,用于接收客户端发送的并发写请求;

41、确定模块,用于确定所述并发写请求对应的第一逻辑地址和第二逻辑地址;所述第一逻辑地址用于确定所述并发写请求对应的写数据在多个镜像阵列条带池中的存储位置;所述第二逻辑地址用于确定所述并发写请求对应的写数据在含校验磁盘阵列中的存储位置;

42、存储模块,用于根据所述第一逻辑地址,将所述并发写请求对应的写数据存储于所述多个镜像阵列条带池后,返回相应写响应至所述客户端,并根据所述第二逻辑地址,将所述并发写请求对应的写数据存储于所述含校验磁盘阵列。

43、可选地,确定模块具体用于:

44、在预设缓存池中,按照负载均衡策略为所述并发写请求分配得到所述第一逻辑地址;所述预设缓存池包括众多镜像阵列条带池;

45、根据所述并发写请求的请求内容确定所述第二逻辑地址。

46、可选地,存储模块具体用于:

47、通过查询第一映射表确定所述第一逻辑地址对应的第一物理地址;

48、确定所述第一物理地址所属的控制器节点;

49、利用所述控制器节点将所述并发写请求对应的写数据,分散存储于所述多个镜像阵列条带池。

50、可选地,存储模块具体用于:

51、确定所述多个镜像阵列条带池分别对应的多个控制线程;

52、利用所述多个控制线程将所述并发写请求对应的写数据,分散存储于所述多个镜像阵列条带池。

53、可选地,存储模块具体用于:

54、若所述并发写请求中的任意请求写成功,则返回相应写成功消息至所述客户端;

55、若所述并发写请求中的任意请求写失败,则返回相应写失败消息至所述客户端。

56、可选地,在任意镜像阵列条带池中,将同一写数据存储至当前镜像阵列条带池中的两个互为镜像的磁盘。

57、可选地,存储模块具体用于:

58、通过查询第二映射表确定所述第二逻辑地址对应的第二物理地址;

59、按照所述第二物理地址从所述含校验磁盘阵列中读取得到旧数据和旧校验数据;

60、将所述旧数据与所述并发写请求对应的写数据进行异或运算,得到中间校验数据;

61、根据所述旧校验数据和所述中间校验数据计算得到新校验数据;

62、将所述新校验数据和所述并发写请求对应的写数据,以覆盖写方式存储至所述第二物理地址。

63、可选地,还包括:

64、信息记录模块,用于针对所述并发写请求中的各个写请求分别构建操作记录信息;所述操作记录信息包括:所述并发写请求中的任一写请求对应的第一逻辑地址、该写请求对应的第二逻辑地址以及处理状态信息。

65、可选地,所述处理状态信息包括:正在处理状态、加锁状态、第一次存储完成状态和第二次存储完成状态;

66、相应地,信息记录模块,用于在所述并发写请求中的任一写请求被处理的过程中,在所述处理状态信息中实时记录正在处理状态、加锁状态、第一次存储完成状态和第二次存储完成状态。

67、可选地,还包括:

68、删除模块,用于在所述并发写请求中的任一写请求对应的处理状态信息中记录有第二次存储完成状态后,删除该写请求对应的操作记录信息。

69、可选地,还包括:

70、内存管理模块,用于为所述并发写请求分配内存地址;按照所述内存地址将所述并发写请求对应的写数据存入相应内存区。

71、可选地,内存管理模块用于:

72、删除所述内存区中的所述并发写请求对应的写数据。

73、可选地,存储模块用于:

74、异步执行根据所述第二逻辑地址,将所述并发写请求对应的写数据存储于所述含校验磁盘阵列的步骤。

75、第三方面,本技术提供了一种电子设备,包括:

76、存储器,用于存储计算机程序;

77、处理器,用于执行所述计算机程序,以实现前述公开的数据处理方法。

78、第四方面,本技术提供了一种非易失性存储介质,用于保存计算机程序,其中,所述计算机程序被处理器执行时实现前述公开的数据处理方法。

79、第五方面,本技术提供了一种计算机程序产品,包括计算机程序/指令,该计算机程序/指令被处理器执行时实现前述公开的数据处理方法的步骤。

80、第六方面,本技术提供了一种数据处理系统,包括:

81、客户端,用于发送并发写请求;

82、服务端,用于接收所述并发写请求,确定所述并发写请求对应的第一逻辑地址和第二逻辑地址;所述第一逻辑地址用于确定所述并发写请求对应的写数据在多个镜像阵列条带池中的存储位置;所述第二逻辑地址用于确定所述并发写请求对应的写数据在含校验磁盘阵列中的存储位置;根据所述第一逻辑地址,将所述并发写请求对应的写数据存储于所述多个镜像阵列条带池后,返回相应写响应至所述客户端,并根据所述第二逻辑地址,将所述并发写请求对应的写数据存储于所述含校验磁盘阵列。

83、可选地,所述服务端包括:缓存池和所述含校验磁盘阵列;所述缓存池包括众多镜像阵列条带池;所述含校验磁盘阵列为双校验磁盘阵列。

84、可选地,所述服务端还包括:多个控制器节点;

85、相应地,所述多个控制器节点用于:管理所述缓存池中的众多镜像阵列条带池,所述众多镜像阵列条带池均匀分配于所述多个控制器节点。

86、通过以上方案可知,本技术提供了一种数据处理方法,包括:接收客户端发送的并发写请求;确定所述并发写请求对应的第一逻辑地址和第二逻辑地址;所述第一逻辑地址用于确定所述并发写请求对应的写数据在多个镜像阵列条带池中的存储位置;所述第二逻辑地址用于确定所述并发写请求对应的写数据在含校验磁盘阵列中的存储位置;根据所述第一逻辑地址,将所述并发写请求对应的写数据存储于所述多个镜像阵列条带池后,返回相应写响应至所述客户端,并根据所述第二逻辑地址,将所述并发写请求对应的写数据存储于所述含校验磁盘阵列。

87、可见,本技术的有益效果为:针对客户端发送的实时并发写请求,先将相应写数据存储至多个镜像阵列条带池,之后立即返回相应写响应至客户端,使得客户端认为写操作已完成,从而利用并发处理方式和镜像阵列条带池来提升写操作效率,降低写延迟和写响应时长;而将写数据存储于含校验磁盘阵列,可保证数据的存储可靠性和容错率,保证存储故障后的可恢复性。该方案兼顾了写操作效率和存储可靠性,能够提升存储端的服务性能。

88、相应地,本技术提供的一种数据处理装置、设备、介质、产品及系统,也同样具有上述技术效果。

本文地址:https://www.jishuxx.com/zhuanli/20241106/325267.html

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 YYfuon@163.com 举报,一经查实,本站将立刻删除。