一种模型获取方法、装置及电子设备与流程
- 国知局
- 2025-01-10 13:35:12
本申请涉及数据处理,尤其涉及一种模型获取方法、装置及电子设备。
背景技术:
1、由于大模型往往数据体积庞大,难以实现快速传输。这限制了大模型在局域网内的快速部署和访问。如何高效共享大模型数据成为了一个挑战。
技术实现思路
1、本申请实施例提供一种模型获取方法、装置及电子设备,用于提高大模型在局域网中的获取速度和效率,同时优化网络带宽的利用、增强了系统的可靠性和可扩展性。
2、第一方面,本申请实施例提供一种模型获取方法,同一局域网下连接中心节点与多个边缘节点,方法包括:
3、任一边缘节点所在的客户端接收到获取目标大模型的用户请求时,向中心节点请求获取目标大模型的子文件的内容标识符集合,中心节点用于存储局域网中大模型的子文件的内容标识符,不同的内容标识符用于标识大模型的相关文件中的不同子文件;
4、在局域网中,基于内容标识符集合查找其他边缘节点是否已存储目标大模型的不同子文件;
5、若存在已存储目标大模型的不同子文件的至少一个边缘节点,从每个边缘节点中并行拉取目标大模型的不同子文件;
6、将目标大模型的不同子文件重新组合,得到目标大模型。
7、可选的,上述任一边缘节点上传新的大模型的相关文件时,向中心节点发送新的大模型的内容标识符集合,中心节点向其他边缘节点发送新的大模型的发布消息,发布消息包括内容标识符集合。
8、可选的,上述从每个边缘节点中并行拉取目标大模型的不同子文件之后,方法还包括:
9、基于内容标识符验证子文件是否完整。
10、可选的,上述基于内容标识符验证子文件是否完整,具体包括:
11、采用预设的哈希算法计算子文件的第一哈希值;
12、将第一哈希值与内容标识符中的第二哈希值进行比较;
13、若第一哈希值与第二哈希值相同,确定子文件完整。
14、可选的,上述将目标大模型的不同子文件重新组合,得到目标大模型,具体包括:
15、按照子文件的合并逻辑,将目标大模型的不同子文件重新组合,得到目标大模型。
16、可选的,上述将目标大模型的不同子文件重新组合,得到目标大模型之后,方法还包括:
17、基于大模型内容标识符验证目标大模型是否完整,大模型内容标识符用于标识不同的大模型。
18、可选的,上述基于大模型内容标识符验证目标大模型是否完整,具体包括:
19、采用预设的哈希算法计算目标大模型的第三哈希值;
20、将第三哈希值与大模型内容标识符中的第四哈希值进行比较;
21、若第三哈希值与第四哈希值相同,确定目标大模型完整。
22、第二方面,本申请实施例提供一种模型获取装置,同一局域网下连接中心节点与多个边缘节点,该装置包括:
23、收发模块,用于接收到获取目标大模型的用户请求时,向中心节点请求获取目标大模型的子文件的内容标识符集合,中心节点用于存储局域网中大模型的子文件的内容标识符,不同的内容标识符用于标识大模型的相关文件中的不同子文件;
24、处理模块,用于在局域网中,基于内容标识符集合查找其他边缘节点是否已存储目标大模型的不同子文件;
25、收发模块,还用于若存在已存储目标大模型的不同子文件的至少一个边缘节点,从每个边缘节点中并行拉取目标大模型的不同子文件;
26、处理模块,还用于将目标大模型的不同子文件重新组合,得到目标大模型。
27、第三方面,本申请实施例提供一种电子设备,包括存储器,处理器及存储在存储器上并可在处理器运行的计算机程序,当计算机程序被处理器执行时,使得处理器实现上述第一方面中的任一项模型获取方法。
28、第四方面,本申请实施例还提供了一种计算机可读存储介质,计算机可读存储介质内存储有计算机程序,计算机程序被处理器执行时,实现第一方面中的任一项的模型获取方法。
29、第五方面,本申请实施例还提供了一种计算机程序产品,包括计算机程序,计算机程序被处理器执行以实现如上述第一方面中的任一项的模型获取方法。
30、第二方面至第五方面中任意一种实现方式所带来的技术效果可参见第一方面中对应的实现方式所带来的技术效果,此处不再赘述。
技术特征:1.一种模型获取方法,其特征在于,同一局域网下连接中心节点与多个边缘节点,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述任一边缘节点上传新的大模型的相关文件时,向所述中心节点发送所述新的大模型的内容标识符集合,所述中心节点向其他边缘节点发送所述新的大模型的发布消息,所述发布消息包括所述内容标识符集合。
3.根据权利要求1所述的方法,其特征在于,所述从每个边缘节点中并行拉取所述目标大模型的不同子文件之后,所述方法还包括:
4.根据权利要求3所述的方法,其特征在于,所述基于所述内容标识符验证所述子文件是否完整,具体包括:
5.根据权利要求1所述的方法,其特征在于,所述将所述目标大模型的不同子文件重新组合,得到所述目标大模型,具体包括:
6.根据权利要求1所述的方法,其特征在于,所述将所述目标大模型的不同子文件重新组合,得到所述目标大模型之后,所述方法还包括:
7.根据权利要求3所述的方法,其特征在于,所述基于所述大模型内容标识符验证所述目标大模型是否完整,具体包括:
8.一种模型获取装置,其特征在于,同一局域网下连接中心节点与多个边缘节点,所述装置包括:
9.一种电子设备,包括存储器,处理器及存储在存储器上并可在处理器运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1-7中任一项所述的方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序用于使所述计算机执行权利要求1-7中任一项所述的方法。
11.一种计算机程序产品,其特征在于,所述计算机程序产品在被计算机调用时,使得所述计算机执行如权利要求1-7中任一项所述的方法。
技术总结本申请涉及数据处理技术领域,尤其涉及一种模型获取方法、装置及电子设备。该方法应用于连接中心节点与多个边缘节点的局域网中,任一边缘节点所在的客户端接收到获取目标大模型的用户请求时,向中心节点请求获取目标大模型的子文件的内容标识符集合。在局域网中,基于内容标识符集合查找其他边缘节点是否已存储目标大模型的不同子文件。若存在已存储目标大模型的不同子文件的至少一个边缘节点,从每个边缘节点中并行拉取目标大模型的不同子文件。将目标大模型的不同子文件重新组合,得到目标大模型。上述方案,可以用于提高大模型在局域网中的获取速度和效率,同时优化网络带宽的利用、增强了系统的可靠性和可扩展性。技术研发人员:李骁宇,汪泽,刘豪,苑海鑫受保护的技术使用者:北京世纪互联宽带数据中心有限公司技术研发日:技术公布日:2025/1/6本文地址:https://www.jishuxx.com/zhuanli/20250110/354051.html
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 YYfuon@163.com 举报,一经查实,本站将立刻删除。
下一篇
返回列表