加速器模块和包括加速器模块的计算系统的制作方法

本公开的示例实施例总体上涉及半导体集成电路，并且更具体地，涉及加速器模块和包括加速器模块的计算系统。

背景技术：

1、计算系统可将各种信息技术(it)服务提供给用户。随着各种it服务被提供给用户，由计算系统处理的数据的量增加。计算系统正在发展为异构计算环境以提供各种it服务。如今，正在开发用于在计算系统和/或异构计算环境内以高速处理数据的各种技术。

2、计算系统可包括用于基于执行的指令或程序来处理数据的主机装置。由于尺寸和存储器约束，计算系统可包括用于存储指令(或程序)和数据的存储装置。在这种情况下，指令和数据从存储装置被发送到主机装置，并且主机装置基于指令处理数据。然而，主机装置与存储装置之间的这种通信可成为计算系统的操作速度的瓶颈。

技术实现思路

1、根据发明构思的一个或多个实施例的方面有益地提高了数据被处理的速度。本公开的至少一个示例实施例提供一种能够在执行数据存储功能和数据处理功能两者的同时高效地分配、分发和处理任务和/或工作负载的加速器模块。

2、本公开的至少一个示例实施例提供一种包括加速器模块的计算系统。

3、根据示例实施例，一种加速器模块包括：多个存储器；以及控制器，控制所述多个存储器的操作。控制器包括：多个存储器控制器，连接到所述多个存储器；多个处理单元，连接到所述多个存储器控制器；以及管理电路，连接到所述多个处理单元。所述多个存储器控制器和所述多个存储器形成多个存储器子通道。所述多个存储器子通道包括第一存储器子通道。所述多个处理单元可对存储在所述多个存储器中或者从所述多个存储器读取的多个数据执行计算操作，并且包括连接到第一存储器子通道的第一处理单元。管理电路可响应于第一存储器子通道和第一处理单元处于重工作负载状态而重新分发由所述多个处理单元执行的任务，或者可改变所述多个存储器控制器与所述多个处理单元之间的连接。

4、根据示例实施例，一种计算系统包括：主机装置；存储器装置，通过第一接口与主机装置通信；以及第一加速器模块，通过第二接口与主机装置通信。第一加速器模块包括：多个存储器；以及控制器，控制所述多个存储器的操作。控制器包括：多个存储器控制器，连接到所述多个存储器；多个处理单元，连接到所述多个存储器控制器；以及管理电路，连接到所述多个处理单元。所述多个存储器控制器和所述多个存储器形成多个存储器子通道。所述多个存储器子通道包括第一存储器子通道。所述多个处理单元对存储在所述多个存储器中或者从所述多个存储器读取的多个数据执行计算操作，并且包括连接到第一存储器子通道的第一处理单元。管理电路响应于第一存储器子通道和第一处理单元处于重工作负载状态而重新分发由所述多个处理单元执行的任务或者改变所述多个存储器控制器与所述多个处理单元之间的连接。

5、根据示例实施例，一种加速器模块包括：多个存储器；以及控制器，控制所述多个存储器的操作。控制器包括：多个存储器控制器，连接到所述多个存储器；多个处理单元；连接到所述多个存储器控制器；以及管理电路，连接到所述多个处理单元。所述多个存储器控制器和所述多个存储器形成多个存储器子通道。所述多个存储器子通道包括第一存储器子通道、第二存储器子通道和第三存储器子通道。所述多个处理单元对存储在所述多个存储器中或者从所述多个存储器读取的多个数据执行计算操作，并且包括连接到第一存储器子通道的第一处理单元和连接到第二存储器子通道的第二处理单元。管理电路响应于第一存储器子通道和第一处理单元处于重工作负载状态而执行负载均衡操作和通道连接改变操作中的至少一个。在负载均衡操作中，管理电路将分配给第一处理单元的任务之中的第一任务重新分配给第二处理单元，将与第一任务相关联并存储在第一存储器子通道中的第一数据复制到第二存储器子通道，并且使用第二处理单元和第二存储器子通道执行第一任务。在通道连接改变操作中，管理电路将第二存储器子通道附加地连接到第一处理单元，将存储在第一存储器子通道中的第一数据复制到第二存储器子通道，将先前连接到第二存储器子通道的第二处理单元连接到第三存储器子通道，将存储在第二存储器子通道中的第二数据复制到第三存储器子通道，并且改变地址映射信息，以在第一数据将要由外部主机装置访问时访问存储在第二存储器子通道中的第一数据而非存储在第一存储器子通道中的第一数据。

6、在根据示例实施例的加速器模块和计算系统中，当特定处理单元处于重工作负载状态时，工作负载管理操作可被执行。例如，负载均衡操作可被执行以重新分发任务，使得所有存储器子通道和所有处理单元具有相等的工作负载。例如，通道连接改变操作可被执行以改变处理单元与存储器子通道之间的连接，使得附加的存储器子通道被分配给具有重工作负载的处理单元以快速执行任务，并且使得存储器子通道由具有轻工作负载的处理单元共享以缓慢执行任务。因此，内部存储器带宽可被动态地/自适应地控制，并且加速器模块100可以以提高的性能进行操作。

技术特征：

1.一种加速器模块，包括：

2.根据权利要求1所述的加速器模块，其中，所述多个存储器子通道包括第一存储器子通道，并且所述多个处理单元包括连接到第一存储器子通道的第一处理单元，并且其中，管理电路包括：

3.根据权利要求2所述的加速器模块，其中，所述多个负载检查器被配置为检查连接到所述多个处理单元的所述多个存储器子通道的访问计数。

4.根据权利要求3所述的加速器模块，

5.根据权利要求2所述的加速器模块，

6.根据权利要求5所述的加速器模块，

7.根据权利要求6所述的加速器模块，其中，将第一数据复制到第二存储器子通道的操作在外部主机装置的控制下执行或者由负载均衡器内部执行。

8.根据权利要求2所述的加速器模块，其中，负载均衡器被配置为响应于分配给第一处理单元的任务的数量大于参考数量而确定第一处理单元的工作负载大于参考工作负载。

9.根据权利要求1所述的加速器模块，其中，管理电路包括：

10.根据权利要求9所述的加速器模块，

11.根据权利要求10所述的加速器模块，其中，控制器还包括：

12.根据权利要求11所述的加速器模块，

13.根据权利要求12所述的加速器模块，其中，直接存储器访引擎被配置为将存储在第二存储器子通道中的第二数据复制到第三存储器子通道。

14.根据权利要求11所述的加速器模块，其中，控制器还包括：

15.根据权利要求14所述的加速器模块，其中，地址转换器被配置为改变地址映射信息，以在第一数据将要由外部主机装置访问时访问存储在第二存储器子通道中的第一数据而非存储在第一存储器子通道中的第一数据。

16.根据权利要求14所述的加速器模块，其中，控制器还包括：

17.根据权利要求9所述的加速器模块，其中，连接控制信号在外部主机装置的控制下生成或者由分配器内部生成。

18.一种计算系统，包括：

19.根据权利要求18所述的计算系统，还包括：

20.一种加速器模块，包括：

技术总结公开了加速器模块和包括加速器模块的计算系统。所述加速器模块包括多个存储器和控制器。控制器包括多个存储器控制器、多个处理单元和管理电路。所述多个存储器控制器和所述多个存储器形成多个存储器子通道。所述多个处理单元对存储在所述多个存储器中或者从所述多个存储器读取的多个数据执行计算操作。管理电路响应于第一存储器子通道和第一处理单元处于重工作负载状态而重新分发由所述多个处理单元执行的任务或者改变所述多个存储器控制器与所述多个处理单元之间的连接。技术研发人员：禹炅完,金京守,权容硕,金娜延,苏镇麟受保护的技术使用者：三星电子株式会社技术研发日：技术公布日：2024/7/25