ID映射的确定方法及装置与流程

本发明涉及计算机，尤其涉及一种id映射的确定方法及装置。

背景技术：

1、id映射(id-mapping)是将一个标识或标识符，从一个系统映射到另一个系统的过程。在计算领域中，id映射通常用于将不同系统中的实体进行关联，以确保它们在不同环境中具有一致的标识，基于图的计算是实现id-mapping的常用实现方式。

2、id-mapping的图计算需要依赖于充分的硬件计算资源来处理和运行计算。目前，实现id-mapping的图的计算需要用到全量数据，全量数据的数据量通常较大，这会导致图计算对计算性能的要求高，计算资源不足的情况下难以完成图计算。

技术实现思路

1、本发明提供一种id映射的确定方法及装置，用以解决现有技术中图计算对计算性能的要求高，计算资源不足的情况下难以完成图计算的问题。

2、本发明提供一种id映射的确定方法，包括：

3、评估可用的计算资源；

4、基于所述可用的计算资源，对id映射相关的全量数据进行划分；

5、将划分后的数据分别写入不同分区中，得到源数据分区表；

6、对于所述源数据分区表中每个分区中的数据，通过最大连通图算法确定每个分区对应的id映射结果。

7、根据本发明提供的一种id映射的确定方法，所述将划分后的数据分别写入不同分区中，得到源数据分区表，包括：

8、将划分后的数据按照预先设置的顺序写入不同分区中，得到所述源数据分区表；

9、所述对于所述源数据分区表中每个分区中的数据，通过最大连通图算法确定每个分区对应的id映射结果，包括：

10、从所述源数据分区表中选择第一个分区中的第一数据；

11、基于所述第一数据，通过最大连通图算法确定第一计算结果，将所述第一计算结果写入预先设置的映射合并表；

12、从所述源数据分区表中选择一个增量分区中的第二数据；其中，所述增量分区为除所述第一个分区外的其他分区；

13、基于所述第二数据，通过最大连通图算法确定第二计算结果，将所述第二计算结果写入预先设置的分区增量计算结果表；

14、基于所述映射合并表和所述分区增量计算结果表，确定每个分区对应的id映射结果。

15、根据本发明提供的一种id映射的确定方法，所述基于所述第一数据，通过最大连通图算法确定第一计算结果，包括：

16、基于所述第一数据中的id及对应的id映射关系，生成至少一个第一顶点和至少一条第一边；其中，所述第一顶点用于表征所述第一数据中的数据值，所述第一边用于表征顶点与顶点之间的关系；

17、基于所述至少一个第一顶点和至少一条第一边，构建第一图；

18、通过最大连通图算法对所述第一图进行计算，得到所述第一计算结果；

19、所述基于所述第二数据，通过最大连通图算法确定第二计算结果，包括：

20、基于所述第二数据中的id及对应的id映射关系，生成至少一个第二顶点和至少一条第二边；其中，所述第二顶点用于表征所述第二数据中的数据值，所述第二边用于表征顶点与顶点之间的关系；

21、基于所述至少一个第二顶点和至少一条第二边，构建第二图；

22、通过最大连通图算法对所述第二图进行计算，得到所述第二计算结果。

23、根据本发明提供的一种id映射的确定方法，所述基于所述映射合并表和所述分区增量计算结果表，确定每个分区对应的id映射结果，包括：

24、对所述映射合并表和所述分区增量计算结果表中的数据进行交叉计算；

25、根据交叉计算的结果，判断是否存在需要重新进行连通计算的第三顶点；

26、在不存在所述第三顶点的情况下，将所述分区增量计算结果表中的结果写入预先设置的增量结果临时表；

27、基于所述增量结果临时表和所述映射合并表，确定每个分区对应的id映射结果。

28、根据本发明提供的一种id映射的确定方法，所述方法还包括：

29、在存在所述第三顶点的情况下，基于所述第三顶点构建第三图；

30、通过最大连通图算法对所述第三图进行计算，将得到的第三计算结果写入预先设置的二次结果表；

31、基于所述增量结果临时表、所述二次结果表和所述映射合并表，确定每个分区对应的id映射结果。

32、根据本发明提供的一种id映射的确定方法，所述基于所述增量结果临时表、所述二次结果表和所述映射合并表，确定每个分区对应的id映射结果，包括：

33、将所述增量结果临时表和所述二次结果表中的结果进行合并，得到目标结果表；

34、利用所述目标结果表，对前一次计算得到的结果表中的数据进行合并及更新；

35、在所述源数据分区表中所有分区中的数据均计算后，基于最后一次计算所合并及更新后的结果表，确定每个分区对应的id映射结果。

36、本发明还提供一种id映射的确定装置，包括：

37、评估模块，用于评估可用的计算资源；

38、划分模块，用于基于所述可用的计算资源，对id映射相关的全量数据进行划分；

39、写入模块，用于将划分后的数据分别写入不同分区中，得到源数据分区表；

40、确定模块，用于对于所述源数据分区表中每个分区中的数据，通过最大连通图算法确定每个分区对应的id映射结果。

41、本发明还提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如上述任一种所述id映射的确定方法。

42、本发明还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如上述任一种所述id映射的确定方法。

43、本发明还提供一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现如上述任一种所述id映射的确定方法。

44、本发明提供的id映射的确定方法及装置，先评估可用的计算资源，基于可用的计算资源对id映射相关的全量数据进行划分，并将划分后的数据分别写入不同分区中，得到源数据分区表，以对源数据分区表中每个分区中的数据，通过最大连通图算法确定每个分区对应的id映射结果。相较于相关技术中直接通过全量数据确定id映射结果，导致图计算对计算性能的要求高，本发明根据当前可用的计算资源对全量数据进行划分后，分区确定id映射结果，可以保证计算资源内每次能够完成计算任务，降低了对计算性能的要求，在计算资源不足以支持全量数据计算的情况下也可以确定id映射结果，实现了在有限低消耗的计算资源内，完成大数据量的id映射计算。

技术特征：

1.一种id映射的确定方法，其特征在于，包括：

2.根据权利要求1所述的id映射的确定方法，其特征在于，所述将划分后的数据分别写入不同分区中，得到源数据分区表，包括：

3.根据权利要求2所述的id映射的确定方法，其特征在于，所述基于所述第一数据，通过最大连通图算法确定第一计算结果，包括：

4.根据权利要求2或3所述的id映射的确定方法，其特征在于，所述基于所述映射合并表和所述分区增量计算结果表，确定每个分区对应的id映射结果，包括：

5.根据权利要求4所述的id映射的确定方法，其特征在于，所述方法还包括：

6.根据权利要求5所述的id映射的确定方法，其特征在于，所述基于所述增量结果临时表、所述二次结果表和所述映射合并表，确定每个分区对应的id映射结果，包括：

7.一种id映射的确定装置，其特征在于，包括：

8.一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1至6任一项所述id映射的确定方法。

9.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至6任一项所述id映射的确定方法。

10.一种计算机程序产品，包括计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至6任一项所述id映射的确定方法。

技术总结本发明提供一种ID映射的确定方法及装置，涉及计算机技术领域，方法包括：评估可用的计算资源；基于所述可用的计算资源，对ID映射相关的全量数据进行划分；将划分后的数据分别写入不同分区中，得到源数据分区表；对于所述源数据分区表中每个分区中的数据，通过最大连通图算法确定每个分区对应的ID映射结果。本发明实施例根据当前可用的计算资源对全量数据进行划分后，分区确定ID映射结果，可以保证计算资源内每次能够完成计算任务，降低了对计算性能的要求，在计算资源不足以支持全量数据计算的情况下也可以确定ID映射结果，实现了在有限低消耗的计算资源内，完成大数据量的ID映射计算。技术研发人员：朱广,孙琦,王利,王波,方锐受保护的技术使用者：元保科创（北京）科技有限公司技术研发日：技术公布日：2024/7/29