一种数据备份的方法、装置、终端设备及存储介质与流程
- 国知局
- 2024-08-05 11:44:18
本技术涉及数据处理,特别涉及一种数据备份的方法、装置、终端设备及存储介质。
背景技术:
1、在应用程序开发中,为避免有效数据丢失会对数据进行备份。相关技术中采用从数据库读取数据到内存,在内存中转换为文本数据后,再通过文件io接口写入文件的操作来实现数据的备份的需求。
2、相关技术中采用的备份方法,通过从数据库读取数据到内存的方式,导致应用程序内存占用迅速增加,这会使得数据处理操作耗费更多时间,并且在将处理后的数据写入文件时,文件io操作耗时较长,因此应用程序需要等待文件io接口完成写入。这种情况下,应用程序的cpu资源也会被占用,从而导致系统的稳定性受到影响,甚至可能导致系统崩溃。因此,相关技术中采用的数据备份方式存在内存和cpu资源占用过多的问题,严重影响了数据备份的效果。
技术实现思路
1、本技术旨在至少解决现有技术中存在的技术问题之一。为此,本技术提出一种数据备份的方法、装置、终端设备及存储介质,能够减少服务器资源占用,缩短数据备份操作耗时,提高了系统资源的利用率,并且也保证了在进行数据备份操作时系统的稳定性。
2、第一方面,本技术实施例提供了一种数据备份的方法,所述方法包括:
3、获得待备份数据,对所述待备份数据进行分片获得多个分片数据;
4、确定所述待备份数据对应的备份格式,根据所述备份格式对多个所述分片数据进行数据转换,分别获得每个所述分片数据对应的目标数据;
5、确定目标缓存区,并将所述目标数据存储至所述目标缓存区获得第一缓存结果;
6、根据所述第一缓存结果进行数据备份,获得所述待备份数据对应的备份结果。
7、在一些可选的实施例中,所述对所述待备份数据进行分片获得多个分片数据,包括:
8、获得所述待备份数据对应的索引数据;
9、根据所述索引数据对所述待备份数据进行排序,获得排序数据;
10、对所述排序数据进行分片处理,获得多个所述分片数据。
11、在一些可选的实施例中,所述对所述排序数据进行分片处理,获得多个所述分片数据,包括:
12、确定所述排序数据对应的总行数和确定对所述排序数据进行分片时所需的目标行数;
13、根据所述目标行数和所述总行数对所述排序数据进行分片,获得所述排序数据对应的分片序号;
14、根据所述分片序号确定所述分片数据对应的起始索引和结束索引;
15、根据所述起始索引和所述结束索引从所述排序数据中获得所述分片序号对应的所述分片数据。
16、在一些可选的实施例中,所述根据所述备份格式对多个所述分片数据进行数据转换,分别获得每个所述分片数据对应的目标数据,包括:
17、根据所述备份格式确定所述分片数据进行数据转换所需的数据格式和分隔字符;
18、获得所述分片数据对应的字段名称和所述字段名称对应的字段数值;
19、根据所述数据格式对所述字段名称进行数据转换,获得第一转换结果;
20、利用所述分隔字符对所述第一转换结果进行数据拼接,获得第一数据;
21、根据所述数据格式对所述字段数值进行数据转换,获得第二转换结果;
22、利用所述分隔字符对所述第二转换结果进行数据拼接,获得第二数据;
23、根据所述第一数据和所述第二数据确定每个所述分片数据对应的所述目标数据。
24、在一些可选的实施例中,所述根据所述第一数据和所述第二数据确定每个所述分片数据对应的所述目标数据,包括:
25、确定所述备份格式对应的换行字符;
26、将所述换行字符和所述第一数据进行拼接,获得第三数据;
27、将所述换行字符和所述第二数据进行拼接,获得第四数据;
28、根据所述第三数据和所述第四数据确定每个所述分片数据对应的所述目标数据。
29、在一些可选的实施例中,所述根据所述第一缓存结果进行数据备份,获得所述待备份数据对应的备份结果,包括:
30、确定第一备份文件并获得所述第一备份文件对应的第一备份位置;
31、从所述第一缓存结果中依次获得第一缓存数据,将所述第一缓存数据添加至所述第一备份位置,获得所述分片数据对应的第二备份文件;
32、更新所述分片序号,当更新后的所述分片序号满足预设条件时,则根据更新后的所述分片序号更新所述起始索引和更新所述结束索引;
33、根据更新后的所述起始索引和更新后的所述结束索引更新所述分片数据;
34、根据更新后的所述分片数据更新所述目标数据,并将更新后的所述目标数据存储至所述目标缓存区获得第二缓存结果;
35、确定所述第二备份文件对应的第二备份位置;
36、从所述第二缓存结果中依次获得第二缓存数据,将所述第二缓存数据添加至所述第二备份位置,获得更新后的所述分片序号对应的更新后的所述第二备份文件,继续更新所述分片序号,直至更新后的所述分片序号不满足预设条件;
37、当更新后的所述分片序号不满足所述预设条件时,根据所述第二备份文件获得所述待备份数据对应的所述备份结果。
38、在一些可选的实施例中,所述获得所述待备份数据对应的备份结果之后,所述方法还包括:释放所述目标缓存区占用的内存。
39、第二方面,本技术实施例提供了一种数据备份的装置,包括:
40、数据分片模块,被配置为获得待备份数据,对所述待备份数据进行分片获得多个分片数据;
41、数据转换模块,被配置为确定所述待备份数据对应的备份格式,根据所述备份格式对多个所述分片数据进行数据转换,分别获得每个所述分片数据对应的目标数据;
42、数据缓存模块,被配置为确定目标缓存区,并将所述目标数据存储至所述目标缓存区获得第一缓存结果;
43、数据备份模块,被配置为根据所述第一缓存结果进行数据备份,获得所述待备份数据对应的备份结果。
44、在一些可选的实施例中,所述数据分片模块进一步被配置为:
45、确定索引模块,被配置为获得所述待备份数据对应的索引数据;
46、数据排序模块,被配置为根据所述索引数据对所述待备份数据进行排序,获得排序数据;
47、数据处理模块,被配置为对所述排序数据进行分片处理,获得多个所述分片数据。
48、在一些可选的实施例中,所述数据处理模块进一步被配置为:
49、行数确定模块,被配置为确定所述排序数据对应的总行数和确定对所述排序数据进行分片时所需的目标行数;
50、序号确定模块,被配置为根据所述目标行数和所述总行数对所述排序数据进行分片,获得所述排序数据对应的分片序号;
51、索引确定模块,被配置为根据所述分片序号确定所述分片数据对应的起始索引和结束索引;
52、数据确定模块,被配置为根据所述起始索引和所述结束索引从所述排序数据中获得所述分片序号对应的所述分片数据。
53、在一些可选的实施例中,所述数据转换模块进一步被配置为:
54、格式确定模块,被配置为根据所述备份格式确定所述分片数据进行数据转换所需的数据格式和分隔字符;
55、数据解析模块,被配置为获得所述分片数据对应的字段名称和所述字段名称对应的字段数值;
56、第一转换模块,被配置为根据所述数据格式对所述字段名称进行数据转换,获得第一转换结果;
57、第一拼接模块,被配置为利用所述分隔字符对所述第一转换结果进行数据拼接,获得第一数据;
58、第二转换模块,被配置为根据所述数据格式对所述字段数值进行数据转换,获得第二转换结果;
59、第二拼接模块,被配置为利用所述分隔字符对所述第二转换结果进行数据拼接,获得第二数据;
60、第一组合模块,被配置为根据所述第一数据和所述第二数据确定每个所述分片数据对应的所述目标数据。
61、在一些可选的实施例中,所述第一组合模块进一步被配置为:
62、字符确定模块,被配置为确定所述备份格式对应的换行字符;
63、第三拼接模块,被配置为将所述换行字符和所述第一数据进行拼接,获得第三数据;
64、第四拼接模块,被配置为将所述换行字符和所述第二数据进行拼接,获得第四数据;
65、第二组合模块,被配置为根据所述第三数据和所述第四数据确定每个所述分片数据对应的所述目标数据。
66、在一些可选的实施例中,所述数据备份模块进一步被配置为:
67、初始文件确定模块,被配置为确定第一备份文件并获得所述第一备份文件对应的第一备份位置;
68、第一备份模块,被配置为从所述第一缓存结果中依次获得第一缓存数据,将所述第一缓存数据添加至所述第一备份位置,获得所述分片数据对应的第二备份文件;
69、数据更新模块,被配置为更新所述分片序号,当更新后的所述分片序号满足预设条件时,则根据更新后的所述分片序号更新所述起始索引和更新所述结束索引;
70、分片更新模块,被配置为根据更新后的所述起始索引和更新后的所述结束索引更新所述分片数据;
71、缓存更新模块,被配置为根据更新后的所述分片数据更新所述目标数据,并将更新后的所述目标数据存储至所述目标缓存区获得第二缓存结果;
72、位置确定模块,被配置为确定所述第二备份文件对应的第二备份位置;
73、第二备份模块,被配置为从所述第二缓存结果中依次获得第二缓存数据,将所述第二缓存数据添加至所述第二备份位置,获得更新后的所述分片序号对应的更新后的所述第二备份文件,继续更新所述分片序号,直至更新后的所述分片序号不满足预设条件;
74、备份确定模块,被配置为当更新后的所述分片序号不满足所述预设条件时,根据所述第二备份文件获得所述待备份数据对应的所述备份结果。
75、在一些可选的实施例中,所述数据备份的模块还包括内存释放模块,被配置为释放所述目标缓存区占用的内存。
76、第三方面,本技术实施例提供了一种终端设备,包括至少一个控制处理器和用于与所述至少一个控制处理器通信连接的存储器;所述存储器存储有可被所述至少一个控制处理器执行的指令,所述指令被所述至少一个控制处理器执行,以使所述至少一个控制处理器能够执行如上述第一方面所述的数据备份的方法。
77、第四方面,本技术实施例提供了一种计算机可读存储介质,存储有计算机可执行指令,所述计算机可执行指令用于执行如上述第一方面所述的数据备份的方法。
78、根据本技术实施例的数据备份的方法,至少具有如下有益效果:该方法包括获得待备份数据,对待备份数据进行分片获得多个分片数据;确定待备份数据对应的备份格式,根据备份格式对多个分片数据进行数据转换,分别获得每个分片数据对应的目标数据;确定目标缓存区,并将目标数据存储至目标缓存区获得第一缓存结果;根据第一缓存结果进行数据备份,获得待备份数据对应的备份结果。本技术通过确定待备份数据对应的备份格式,可以保证待备份数据的数据结构的一致性,便于后续数据的还原和恢复。将多个分片数据根据备份格式进行数据转换,可以确保每个分片数据都能按照备份格式正确保存,提高数据的备份效率和准确性。将转换后的目标数据存储至目标缓存区获得第一缓存结果,进而根据第一缓存结果进行数据备份,获得待备份数据对应的备份结果,可以解决相关技术中采用的数据备份方式存在内存和cpu资源占用过多,严重影响了数据备份效果的问题。此外,本技术的数据备份方法减少了服务器资源占用,缩短了大量数据进行数据备份操作时所花费的时间,也提高了系统资源的利用率,并且也进一步保证了在进行数据备份操作时系统的稳定性。
本文地址:https://www.jishuxx.com/zhuanli/20240802/259123.html
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 YYfuon@163.com 举报,一经查实,本站将立刻删除。
下一篇
返回列表