技术新讯 > 计算推算,计数设备的制造及其应用技术 > 路由控制的方法、装置、设备和存储介质与流程  >  正文

路由控制的方法、装置、设备和存储介质与流程

  • 国知局
  • 2024-10-21 15:08:01

本公开的示例实施例总体涉及计算机领域,特别地涉及路由控制的方法、装置、设备和计算机可读存储介质。

背景技术:

1、当前人工智能训练及大模型推理场景依赖图形处理器(graphics processingunit,gpu)间互联和/或gpu与网卡间互联。透传设备虚拟化技术可以利用输入/输出存储管理单元(input/output memory management unit,iommu)使虚拟机能够使用gpu以及网卡等设备。然而在引入iommu的情况下会造成系统性能下降的问题。

技术实现思路

1、在本公开的第一方面,提供了一种用于路由控制的方法。该方法包括在处理单元和另一处理单元的虚拟工作模式启用的情况下,禁用用于将包含虚拟空间地址的读写请求直接路由到存储管理设备的访问控制服务(acs)功能;将分配给所述另一处理单元的至少一个物理空间地址指定为与所述另一处理单元相关联的至少一个虚拟空间地址,所述至少一个虚拟空间地址与所述另一处理单元的至少一个物理空间地址具有对应关系;向所述处理单元指示所述至少一个虚拟空间地址;以及通过向路由设备指示所述另一处理单元的至少一个物理空间地址,指示路由设备基于从所述处理单元接收到的读写请求所涉及目标虚拟空间地址与所述另一处理单元的至少一个物理空间地址的匹配情况执行所述读写请求的路由。

2、在本公开的第二方面,提供了一种用于路由控制的装置。该装置包括:禁用模块,被配置为在处理单元和另一处理单元的虚拟工作模式启用的情况下,禁用用于将包含虚拟空间地址的读写请求直接路由到存储管理设备的acs功能;分配模块,被配置为将分配给所述另一处理单元的至少一个物理空间地址指定为与所述另一处理单元相关联的至少一个虚拟空间地址,所述至少一个虚拟空间地址与所述另一处理单元的至少一个物理空间地址具有对应关系;第一指示模块,被配置为向所述处理单元指示所述至少一个虚拟空间地址;以及第二指示模块,被配置为通过向路由设备指示所述另一处理单元的至少一个物理空间地址,指示路由设备基于从所述处理单元接收到的读写请求所涉及目标虚拟空间地址与所述另一处理单元的至少一个物理空间地址的匹配情况执行所述读写请求的路由。

3、在本公开的第三方面,提供了一种电子设备。该设备包括至少一个处理单元;以及至少一个存储器,至少一个存储器被耦合到至少一个处理单元并且存储用于由至少一个处理单元执行的指令。指令在由至少一个处理单元执行时使设备执行第一方面的方法。

4、在本公开的第四方面,提供了一种计算机可读存储介质。该计算机可读存储介质上存储有计算机程序,计算机程序可由处理器执行以实现第一方面的方法。

5、应当理解,本内容部分中所描述的内容并非旨在限定本公开的实施例的关键特征或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的描述而变得容易理解。

技术特征:

1.一种用于路由控制的方法,包括:

2.根据权利要求1所述的方法,其中指示所述路由设备指示所述路由包括:

3.根据权利要求1所述的方法,其中指示所述路由设备指示所述路由包括:

4.根据权利要求1或2所述的方法,其中如果所述读写请求将要从所述处理单元发送至所述另一处理单元,则所述目标虚拟空间地址是所述处理单元从与所述另一处理单元相关联的至少一个虚拟空间地址中选择的,并且其中所述目标虚拟空间地址对应于所述另一处理单元的所述至少一个物理空间地址之一。

5.根据权利要求1所述的方法,其中所述处理单元和所述另一处理单元包括图形处理器。

6.根据权利要求1所述的方法,其中所述至少一个物理空间地址和所述至少一个虚拟空间地址包括符合外围组件高速互连总线pcie协议的地址。

7.根据权利要求1或2所述的方法,其中所述存储管理设备包括输入/输出存储管理单元iommu。

8.一种用于路由控制的装置,包括:

9.一种电子设备,包括:

10.一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现根据权利要求1至7中任一项所述的方法。

技术总结本公开的实施例涉及路由控制的方法、装置、设备和存储介质。在此提出的方法包括:在处理单元和另一处理单元的虚拟工作模式启用的情况下,禁用用于将包含虚拟空间地址的读写请求直接路由到存储管理设备的访问控制服务功能;将分配给另一处理单元的至少一个物理空间地址指定为与另一处理单元相关联的至少一个虚拟空间地址,至少一个虚拟空间地址与另一处理单元的至少一个物理空间地址具有对应关系;向处理单元指示所述至少一个虚拟空间地址;以及通过向路由设备指示另一处理单元的至少一个物理空间地址,指示路由设备基于从处理单元接收到的读写请求所涉及目标虚拟空间地址与另一处理单元的至少一个物理空间地址的匹配情况执行读写请求的路由。技术研发人员:何鑫,谢永吉,邓良,柴稳,陆申明,洪昊,张宇,王剑受保护的技术使用者:北京字跳网络技术有限公司技术研发日:技术公布日:2024/10/17

本文地址:https://www.jishuxx.com/zhuanli/20241021/320647.html

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 YYfuon@163.com 举报,一经查实,本站将立刻删除。