用于在存储器控制器中管理近存储器处理命令和非近存储器处理命令的方法与流程

背景技术：

1、本节所述的方法是可以实行的方法，但不一定是先前已经设想或实行过的方法。因此，除非另有说明，否则不应假设：本节所述的任何方法仅由于其包含在本节中而假定它们是现有技术。另外，不应假设：本节所述的任何方法仅由于其包含在本节中而假定它们是公知的、例行的或常规的。

2、由于计算吞吐量比存储器带宽更快地扩展，因此已开发出各种技术来向增长的计算能力保持馈送数据。存内处理(pim)将处理能力并入存储器模块内，使得可直接在存储器模块内处理任务。在动态随机存取存储器(dram)的上下文中，示例性pim配置包括矢量计算元件和本地寄存器。矢量计算元件和本地寄存器允许存储器模块在本地执行一些计算，诸如算术计算。这允许存储器控制器在不需要跨存储器模块接口的数据移动的情况下并行地触发多个存储器模块处的本地计算，这可极大地改善性能，尤其是对于数据密集型工作负载而言。

3、pim的挑战之一是鉴于pim命令和非pim命令的不同处理，如何在存储器控制器处处理它们两者。例如，非pim命令涉及单个dram存储体，而pim命令是涉及dram模块中的全部的存储体的广播命令。因此，跟踪单独存储体的状态的常规页表对于pim命令来说是不够的。又如，非pim命令通常需要主机到存储器模块数据通信以将数据写入到存储器并从存储器读取数据。相比之下，除了经由数据总线提供元数据以处理pim命令之外，pim命令使用不触发主机到存储器模块数据通信的“即发即弃”语义。示例性元数据包括诸如命令索引值、进程或线程id、表示源操作数的常数值、pim寄存器索引等信息。因此，存储器控制器必须以不同于非pim命令的方式处理pim命令。

4、解决这些问题的一个可能的解决方案是当pim和非pim命令业务到达存储器控制器时，通过阻止两个命令流中的一个命令流并且单独处理它们来将其隔离。然而，此方法可导致可归因于延迟两个命令流中的一个命令流的处理的大性能损失。另一解决方案是针对pim命令使用专用存储器控制器，但这伴随着面积和功率成本增加。鉴于前述内容，因此需要一种用于由存储器控制器处理pim和非pim命令两者的方法，其避免当前解决方案的限制和成本。

技术实现思路

技术特征：

1.一种存储器控制器，所述存储器控制器包括：

2.根据权利要求1所述的存储器控制器，其中所述选择标准包括命令分配带宽、未决命令的数量、自发出最近命令起的时间量或循环次数、标记的存在、或全局年龄中的一者或多者。

3.根据权利要求1所述的存储器控制器，其中所述处理逻辑被进一步配置为在页表中维护在最近的广播近存储器处理命令之后的两个或更多个存储器元件的状态。

4.根据权利要求3所述的存储器控制器，其中在所述最近的广播近存储器处理命令之后的所述两个或更多个存储器元件的所述状态是在所述页表中的单个条目中进行维护的。

5.根据权利要求3所述的存储器控制器，其中所述状态指示所述两个或更多个存储器元件中当前打开的行。

6.根据权利要求1所述的存储器控制器，其中所述处理逻辑被进一步配置为响应于经处理的先前存储器命令是非近存储器处理命令以及选择所述广播近存储器处理命令用于处理而：

7.根据权利要求1所述的存储器控制器，其中所述处理逻辑被进一步配置为响应于经处理的先前存储器命令是广播近存储器处理命令以及选择所述非近存储器处理命令用于处理而：

8.根据权利要求1所述的存储器控制器，其中所选择的用于处理的所述广播近存储器处理命令是来自多个广播近存储器处理命令的最老的广播近存储器处理命令。

9.一种方法，所述方法包括：

10.根据权利要求9所述的方法，其中所述选择标准包括命令分配带宽、未决命令的数量、自发出最近命令起的时间量或循环次数、标记的存在、或全局年龄中的一者或多者。

11.根据权利要求9所述的方法，所述方法还包括在页表中维护在最近的广播近存储器处理命令之后的两个或更多个存储器元件的状态。

12.根据权利要求11所述的方法，其中在所述最近的广播近存储器处理命令之后的所述两个或更多个存储器元件的所述状态是在所述页表中的单个条目中进行维护的。

13.根据权利要求11所述的方法，其中所述状态指示所述两个或更多个存储器元件中当前打开的行。

14.根据权利要求9所述的方法，所述方法还包括响应于经处理的先前存储器命令是非近存储器处理命令以及选择所述广播近存储器处理命令用于处理而：

15.根据权利要求9所述的方法，所述方法还包括响应于经处理的先前存储器命令是广播近存储器处理命令以及选择所述非近存储器处理命令用于处理而：

16.根据权利要求9所述的方法，其中所选择的用于处理的所述广播近存储器处理命令是来自多个广播近存储器处理命令的最老的广播近存储器处理命令。

17.一种处理器，所述处理器包括：

18.根据权利要求17所述的处理器，其中所述存储器控制器被进一步配置为在页表的单个条目中维护在最近的广播近存储器处理命令之后的两个或更多个存储器元件的状态，其中所述状态指示所述两个或更多个存储器元件中当前打开的行。

19.根据权利要求17所述的处理器，其中所述存储器控制器被进一步配置为响应于经处理的先前存储器命令是非近存储器处理命令以及选择所述广播近存储器处理命令用于处理而：

20.根据权利要求17所述的处理器，其中所述存储器控制器被进一步配置为响应于经处理的先前存储器命令是广播近存储器处理命令以及选择所述非近存储器处理命令用于处理而：

技术总结提供了一种用于在存储器控制器处管理PIM命令和非PIM命令的方法。存储器控制器将PIM命令和非PIM命令入队，并且基于各种选择标准来选择要处理的下一个命令。该存储器控制器维护并使用页表来针对下一个存储器命令，无论是PIM命令还是非PIM命令，正确地配置存储器元件，诸如存储器模块中的存储体。该页表跟踪存储器元件的截至所发出的最近的存储器命令的状态。该页表包括“全部存储体”条目，该条目指示在处理最近的PIM命令之后的存储体的状态。例如，全部存储体条目指示是否全部的存储体都具有打开的行，并且如果是，则针对全部的存储体指定该打开的行。技术研发人员：尼缇·马登,约翰·卡拉马丁纳斯受保护的技术使用者：超威半导体公司技术研发日：技术公布日：2024/8/1