存内计算方法、装置、计算机设备及存储介质与流程
- 国知局
- 2024-07-31 19:48:40
本发明涉及存内计算,尤其涉及一种存内计算方法、装置、计算机设备及存储介质。
背景技术:
1、当前处在人工智能技术爆炸的时代,冯诺依曼的内存墙瓶颈和功耗瓶颈问题被放大。在人工智能的应用场景下,需要进行大量的数据运算,在冯诺依曼架构下,处理器和存储器之间需要进行大量的数据交互,从而产生较大的功耗,在这种情况下,存算一体架构应运而生。存算一体架构是将存储单元与运算单元相结合,以此来减少甚至消除计算单元和存储单元之间的距离,从而攻克上述两种瓶颈。其中存内计算架构是解决方法之一,在这种架构中,数据不需要从存储器读取到处理器再进行计算,而是直接在存算器件中进行计算,可以充分利用存算器件中的并行性,实现更高的并行度,从而能够更快地处理大规模数据,也可以大大提高数据访问速度,减少处理器等待数据的时间。并且在这种架构中,数据的传输和计算是同时进行的,无需从存储器传输到处理器进行计算,可以大大降低能耗并提高效率。
2、但是,目前bit-slice存内计算核方案主要面向的还是整bit划分,即划分的存算器件状态数为2的幂次方类型,如表示一个8bit带符号位的精度重构方案,根据存算器件的最大状态数,可以分片为1-1-6、1-2-5和1-3-4等bit-slice方案。但当下忆阻器,2t-dram等新型存算器件经常测到诸如13态,28态等非2的幂次方型的电导范围,面对这种情况,传统的bit-slice方案往往只能舍去部分存算器件的状态,选择在电导范围内的2的幂次方状态数进行分片划分,这无疑浪费了这些新型存算器件优异的多b it存储性能,从而限制了存内计算核计算精度和效率的进一步提高。
技术实现思路
1、基于此,有必要针对现有技术的存算器件的计算效率不够高的技术问题,提出了一种存内计算方法、装置、计算机设备及存储介质。
2、第一方面,提供了一种存内计算方法,所述方法包括:
3、获取存算器件的多b it存储性能数据、最大电导值数据、最小电导值数据以及输入向量;
4、基于所述多b it存储性能数据,对所述存算器件的存算器件阵列进行比特片划分,得到第一列目标比特片、第二列目标比特片以及第三列目标比特片;
5、基于所述第一列目标比特片、第二列目标比特片、第三列目标比特片、最大电导值数据、最小电导值数据,确定第一电导值、第二电导值以及第三电导值,其中,所述第一电导值是指所述第一列目标比特片中各个比特片各自对应的电导值,所述第二电导值是指所述第二列目标比特片中各个比特片各自对应的电导值,所述第三电导值是指所述第三列目标比特片中各个比特片各自对应的电导值;
6、基于所述第一电导值、所述第二电导值、所述第三电导值以及所述输入向量,确定输出结果。
7、第二方面,提供了一种存内计算装置,所述装置包括:
8、获取模块,用于获取存算器件的多b it存储性能数据、最大电导值数据、最小电导值数据以及输入向量;
9、划分模块,用于基于所述多b it存储性能数据,对所述存算器件的存算器件阵列进行比特片划分,得到第一列目标比特片、第二列目标比特片以及第三列目标比特片;
10、第一确定模块,用于基于所述第一列目标比特片、第二列目标比特片、第三列目标比特片、最大电导值数据、最小电导值数据,确定第一电导值、第二电导值以及第三电导值,其中,所述第一电导值是指所述第一列目标比特片中各个比特片各自对应的电导值,所述第二电导值是指所述第二列目标比特片中各个比特片各自对应的电导值,所述第三电导值是指所述第三列目标比特片中各个比特片各自对应的电导值;
11、第二确定模块,用于基于所述第一电导值、所述第二电导值、所述第三电导值以及所述输入向量,确定输出结果。
12、第三方面,提供了一种计算机设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述存内计算方法的步骤。
13、第四方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述存内计算方法的步骤。
14、本发明提出的存内计算方法,通过获取存算器件的多b it存储性能数据、最大电导值数据、最小电导值数据以及输入向量,而后基于所述多b it存储性能数据,对所述存算器件的存算器件阵列进行比特片划分,得到第一列目标比特片、第二列目标比特片以及第三列目标比特片,接着基于所述第一列目标比特片、第二列目标比特片、第三列目标比特片、最大电导值数据、最小电导值数据,确定第一电导值、第二电导值以及第三电导值,其中,所述第一电导值是指所述第一列目标比特片中各个比特片各自对应的电导值,所述第二电导值是指所述第二列目标比特片中各个比特片各自对应的电导值,所述第三电导值是指所述第三列目标比特片中各个比特片各自对应的电导值,最后基于所述第一电导值、所述第二电导值、所述第三电导值以及所述输入向量,确定输出结果,能够基于所述多b i t存储性能数据,对所述存算器件的存算器件阵列进行比特片的合理划分,从而利用存算器件的全部电导范围,有效的利用了存算器件的性能资源,避免了资源浪费,提升了硬件计算能效。
技术特征:1.一种存内计算方法,其特征在于,所述存内计算方法包括:
2.根据权利要求1所述的存内计算方法,其特征在于,所述多bit存储性能数据包括存算器件的n个稳定保持的电导状态,所述n是大于等于1的整数,所述基于所述多bit存储性能数据,对所述存算器件的存算器件阵列进行比特片划分,得到第一列目标比特片、第二列目标比特片以及第三列目标比特片的步骤,包括:
3.根据权利要求2所述的存内计算方法,其特征在于,所述第二列比特片的状态数由下式表示:
4.根据权利要求3所述的存内计算方法,其特征在于,所述基于所述第一列目标比特片、第二列目标比特片、第三列目标比特片、最大电导值数据、最小电导值数据,确定第一电导值、第二电导值以及第三电导值的步骤,包括:
5.根据权利要求4所述的存内计算方法,其特征在于,所述基于所述第一列目标比特片、第二列目标比特片、第三列目标比特片、最大电导值数据、最小电导值数据,确定第一电导值、第二电导值以及第三电导值的步骤,包括:
6.根据权利要求5所述的存内计算方法,其特征在于,所述基于所述第一输入权重、所述第二输入权重、所述第三输入权重、最大电导值数据以及最小电导值数据,确定第一电导值、第二电导值以及第三电导值的步骤,包括:
7.根据权利要求1所述的存内计算方法,其特征在于,所述基于所述第一电导值、所述第二电导值、所述第三电导值以及所述输入向量,确定输出结果的步骤,包括:
8.一种存内计算装置,其特征在于,所述存内计算装置包括:
9.一种计算机设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述存内计算方法的步骤。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述存内计算方法的步骤。
技术总结本申请涉及存内计算技术领域,揭示了一种存内计算方法、装置、计算机设备及存储介质,方法包括:获取存算器件的多b it存储性能数据、最大电导值数据、最小电导值数据以及输入向量;基于多b it存储性能数据,对存算器件的存算器件阵列进行比特片划分,得到第一列目标比特片、第二列目标比特片以及第三列目标比特片;基于第一列目标比特片、第二列目标比特片、第三列目标比特片、最大电导值数据、最小电导值数据,确定各个电导值;基于各个电导值以及输入向量,确定输出结果,能够对存算器件的存算器件阵列进行比特片的合理划分,从而利用存算器件的全部电导范围,有效的利用了存算器件的性能资源,避免了资源浪费,提升了硬件计算能效。技术研发人员:李子晔,黄明强,胡万波,文婉婷受保护的技术使用者:深圳先进技术研究院技术研发日:技术公布日:2024/4/17本文地址:https://www.jishuxx.com/zhuanli/20240731/184159.html
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 YYfuon@163.com 举报,一经查实,本站将立刻删除。
下一篇
返回列表