技术新讯 > 计算推算,计数设备的制造及其应用技术 > 用于机器学习过程的高效模拟矩阵乘法的系统和方法与流程  >  正文

用于机器学习过程的高效模拟矩阵乘法的系统和方法与流程

  • 国知局
  • 2024-07-31 22:49:10

本公开总体上涉及数据处理。更具体地,本公开涉及用于在执行诸如矩阵乘法的算术运算时提高计算和存储器资源的利用的系统和方法。

背景技术:

1、机器学习是使得能够进行在“经典”计算中不可行的算法的计算的研究和开发的令人兴奋的领域。常见的机器学习实现利用传统的cpu或图形处理单元(gpu),它们使用寄存器和高速缓存来处理存储在存储器中的数据,并依赖于许多顺序的软件和硬件矩阵操作步骤,例如地址生成、移位、逐位处理位加法和移位,例如,在将乘法转换为加法并将结果输出到某个内部寄存器时。在生成正确结果的同时,此方法在功耗和时间上都非常昂贵,并且通常会排除使用计算密集型机器学习算法,尤其是低功耗应用程序的实时应用,例如,与耗电处理器不兼容的电池供电的便携式设备的应用。

2、例如,诸如用于完全连接的网络的矩阵乘法之类的对计算有要求的应用经常需要将软件功能嵌入到微处理器中。在执行矩阵乘法和相关操作时,软件必须访问标准存储器的相同位置,并一次又一次地读取、重新获取和写入相同的数据。这在计算上非常繁重,并产生了严重影响机器学习应用程序可用性的瓶颈。当前,没有能够有效选择、使用和重用数据,同时又避免了冗余数据生成的机制。简而言之,常规的硬件和方法不适用于当实时地执行涉及大量数据的无数复杂处理步骤时,对速度和性能的不断增长的需求。

3、因此,需要矩阵乘法系统和方法,例如,对于可以利用并集成机器学习过程的相对较小的计算设备,其在能量、算术运算的数目以及时间方面均能有效地处理数据,而没有过多的能源负担或过多的硬件成本。

技术实现思路

技术特征:

1.一种矩阵乘法系统,包括:

2.根据权利要求1所述的矩阵乘法系统,还包括adc,所述adc将所述幅度调整后的值转换为数字数据。

3.根据权利要求1所述的矩阵乘法系统,其中,所述幅度调整后的值为模拟值。

4.根据权利要求1的矩阵乘法系统,还包括至少控制所述子电路的状态机。

5.根据权利要求1所述的矩阵乘法系统,其中,所述子电路包括开关,所述开关基于数据位的状态来使能电流,所述数据位与所述值的幅度相关联。

6.根据权利要求5所述的矩阵乘法系统,其中,将电流相加以生成表示多个位的输出电流。

7.根据权利要求1所述的矩阵乘法系统,其中,所述列权重在两个或更多个子电路之间共享。

8.一种用于执行模拟矩阵乘法的方法,所述方法包括:

9.根据权利要求8所述的方法,其中,所述模拟乘法电路包括切换所述电流组的开关。

10.根据权利要求9所述的方法,其中,所述开关基于加权位的状态和数据位的状态来切换所述电流组。

11.根据权利要求9所述的方法,其中,所述电流组包括表示不同的加权位的不同值。

12.根据权利要求10所述的方法,其中,所述不同的加权位中的一个或多个包括符号位。

13.根据权利要求9所述的方法,其中,所述输出电流是通过由两个或更多个电路共享的adc转换的,所述adc将模拟激活函数施加到转换的电流。

14.根据权利要求9所述的方法,还包括控制所述模拟乘法电路的状态机。

15.一种模拟乘法电路,包括:

16.根据权利要求15所述的模拟乘法电路,其中,在第一组开关以及第二组开关中流动的电流的比率与2的幂相关,以使得能够进行二进制数据表示。

17.根据权利要求15所述的模拟乘法电路,其中,流过第一组开关以及第二组开关的电流具有相同的极性。

18.根据权利要求15所述的模拟乘法电路,其中,流过第一组开关和第二组开关的电流是根据位位置进行加权的。

19.根据权利要求15所述的模拟乘法电路,其中,负电流对权重取反。

20.根据权利要求15所述的模拟乘法电路,还包括第三组开关,其表示针对流过所述第三组开关的电流的符号位。

技术总结使用模拟乘法器和加法器的新型能量高效的乘法电路可减少在模拟域中执行矩阵乘法时数据必须移动的距离和数据必须移动的次数。定制乘法电路以对重新排列的矩阵公式的最内层乘积进行按位乘法,从而以电流的形式输出生成的矩阵乘法结果,然后将其数字化以进行进一步处理。技术研发人员:S·U·郭,R·M·马奇塞尔受保护的技术使用者:马克西姆综合产品公司技术研发日:技术公布日:2024/7/29

本文地址:https://www.jishuxx.com/zhuanli/20240730/194781.html

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 YYfuon@163.com 举报,一经查实,本站将立刻删除。