用于节能数据处理的系统和方法与流程

概括而言，本公开内容涉及数据处理。更具体而言，本公开内容涉及用于在执行诸如矩阵乘法之类的算术运算时提高计算和存储器资源的利用率的系统和方法。

背景技术：

1、机器学习是令人兴奋的研究和开发领域，其实现以前在“经典”计算中不可行的算法和解决方案的计算。然而，大多数现有的实施方式都利用通用cpu或图形处理单元(gpu)。尽管在许多情况下提供正确且令人满意的结果，但这样的实施方式的能量需求通常会排除在诸如电池操作的传感器、小型微控制器等的受限环境中使用具有计算挑战性的机器学习算法。

2、这主要是由于以下事实：算术运算通常是在诸如传统微处理器之类的通用计算设备上操作的软件中执行的。这种方法在功耗和时间二者方面都非常昂贵，并且对于许多计算密集型应用(例如，实时应用)，通用硬件无法以及时的方式执行必要的操作，这是因为计算速率受到现有硬件设计的计算资源和功能的限制。

3、此外，由于增加的存储和从各个存储器位置检索中间结果以完成操作的步骤，因此使用通用处理器的算术函数来生成中间结果会以计算时间为代价。例如，许多传统的乘法器都是标量机，其使用cpu或gpu作为其计算单元，并且使用寄存器和高速缓存来依靠一系列软件和硬件矩阵操纵步骤(例如，地址生成、换位(transposition)、逐比特加法以及移位、将乘法转换成加法，并且将结果输出到一些内部寄存器中)处理存储在存储器中的数据。

4、此外，诸如卷积之类的对计算有要求的应用通常需要将软件功能嵌入微处理器中并且用于将卷积运算转换成交替的矩阵乘法运算。这涉及将图像数据和权重数据重新排列并且重新格式化成两个矩阵，然后将所述两个矩阵进行原始矩阵乘法。不存在高效地选择、使用和重用数据、同时避免生成冗余数据的机制。在执行乘法和其他运算时，软件必须访问标准存储器的相同位置，并且一遍又一遍地读取、重新获取和写入相同的数据，这在计算上非常繁重，并且产生了限制机器学习应用可用性的瓶颈。

5、随着经受矩阵乘法运算的数据量的增加以及运算复杂度的不断增长，无法重用大量数据以及增加的存储和从存储器中检索中间结果以完成算术运算的步骤仅呈现了现有设计的缺点中的一些缺点。因此，传统的硬件和方法不适用于实时执行涉及大量数据的众多复杂处理步骤所需的对速度和性能的不断增长的需求。

6、因此，例如，对于相对小的计算设备而言，需要以快速且节能的方式移动和处理数据以大幅减少算术运算的数量和存储要求的高计算吞吐量系统和方法，所述相对小的计算设备可以利用并集成机器学习过程，而不会造成过多的能量负担或过度的硬件成本。

技术实现思路

技术特征：

1.一种用于节能数据处理的方法，所述方法包括：

2.根据权利要求1所述的方法，还包括将一组输入数据项与所述神经元的所述地址值相关联。

3.根据权利要求1所述的方法，其中，所述一组输入位置中的两个或更多个位置同时被访问。

4.根据权利要求1所述的方法，其中，所述结果与所述神经元相关联。

5.根据权利要求1所述的方法，其中，所述神经元表示全连接网络中的节点。

6.根据权利要求1所述的方法，其中，所述存储器装置包括嵌入在所述存储器装置中的求和节点和乘法器。

7.根据权利要求1所述的方法，其中，所述一组输入位置在单个时钟周期中被访问。

8.根据权利要求1所述的方法，还包括读取源，所述读取源包括所述神经元的所述地址值，所述读取源输出启用所述一组输入数据项中的数据项的第一使能信号。

9.根据权利要求8所述的方法，还包括将所述地址值施加到一个或多个写入目标输入，所述一个或多个写入目标输入响应于包含所述值而输出使得所述结果被写入到所述数据项的第二使能信号。

10.根据权利要求8所述的方法，还包括启用至少一个权重项，以及将所启用的数据项中的一个或多个数据项与所启用的权重项相乘以获得乘积之和。

11.根据权利要求10所述的方法，其中，所述结果关联于与所述神经元相关联的所述乘积之和。

12.根据权利要求10所述的方法，其中，生成所述结果还包括将所述乘积之和应用到加法器以获得输出。

13.根据权利要求11所述的方法，还包括将所述输出应用到激活函数以获得所述结果。

14.一种用于节能数据处理的系统，所述系统包括：

15.根据权利要求14所述的系统，其中，所述一组输入位置中的两个或更多个位置同时被访问。

16.根据权利要求14所述的系统，其中，所述步骤还包括将一组输入数据项与所述神经元的所述地址值相关联。

17.根据权利要求16所述的系统，还包括读取源，所述读取源包括所述神经元的所述地址值，所述读取源输出启用所述一组输入数据项中的数据项的第一使能信号。

18.根据权利要求17所述的系统，还包括将所述地址值施加到一个或多个写入目标输入，所述一个或多个写入目标输入响应于包含所述值而输出使得所述结果被写入到所述数据项的第二使能信号。

19.根据权利要求17所述的系统，还包括启用至少一个权重项，以及将所启用的一组数据项中的一组一个或多个数据项与所启用的权重项相乘以获得乘积之和。

20.根据权利要求19所述的系统，其中，所述结果关联于与所述神经元相关联的所述乘积之和。

技术总结包含内联乘法器和加法器的节能定序器使包含匹配值的读取源在使用乘法器之前输出使能信号以启用数据项，所述乘法器用于将数据项与权重相乘以获得乘积以用于硬件中矩阵乘法。第二使能信号使输出被写入到数据项。技术研发人员：M·A·洛弗尔,R·M·马奇塞尔,D·W·卢米斯三世受保护的技术使用者：马克西姆综合产品公司技术研发日：技术公布日：2024/8/20