技术新讯 > 计算推算,计数设备的制造及其应用技术 > 用于存储器中处理的存储装置和存储装置的操作方法与流程  >  正文

用于存储器中处理的存储装置和存储装置的操作方法与流程

  • 国知局
  • 2024-10-15 09:57:35

本文中描述的本公开的实施例涉及半导体装置,并且更具体地,涉及基于矢量输入或标量输入来执行存储器中处理操作的存储装置和存储装置的操作方法。

背景技术:

1、随机存取存储器直接执行被称为存储器中处理(pim)的中央处理器的一些计算。由于随机存取存储器直接执行一些计算,因此中央处理器与随机存取存储器之间的通信可以减少,并且可以消除瓶颈。

2、为执行pim运算,随机存取存储器可以从主机接收矢量输入。当随机存取存储器仅接收矢量输入时,因为随机存取存储器不能执行矢量输入中包括的多个元素之间的累加运算,所以主机可能需执行多个元素之间的累加运算。在这种情况下,随机存取存储器与主机之间的数据通信量会增加。

技术实现思路

1、本公开的实施例提供了基于矢量数据来执行pim运算或者通过零校验仅对从主机接收的标量数据当中的部分标量数据执行pim运算的存储装置和存储装置的操作方法。

2、根据一些实施例,一种存储装置包括多个存储器芯片。所述多个存储器芯片均包括多个存储体,所述多个存储体均包括:存储单元阵列,所述存储单元阵列包括电连接到多条字线的多个存储单元;行译码器,所述行译码器通过所述多条字线电连接到所述存储单元阵列;和读出放大器和写入驱动器,所述读出放大器和写入驱动器通过多条位线电连接到所述存储单元阵列;和逻辑电路,所述逻辑电路电连接到所述多个存储体,并且基于从主机接收到的多个相应命令和多个相应地址从所述多个存储体读取数据或者向所述多个存储体写入数据。在第一操作模式下,所述逻辑电路基于从所述主机接收到的第一命令和第一地址将第一数据写入到所述多个存储体中,并且基于从所述主机接收到的第三数据和所述第一数据来执行第一存储器中处理(pim)运算。在第二操作模式下,所述逻辑电路基于从所述主机接收到的所述第一命令和所述第一地址将第二数据写入到所述多个存储体中,并且基于从所述主机接收到的与所述第三数据不同的第四数据和所述第二数据来执行第二pim运算。

3、根据一些实施例,一种存储装置的操作方法,所述存储装置包括包括多个存储器芯片,所述多个存储器芯片均包括多个存储单元,所述方法包括:在第一操作模式下,使所述存储装置中包括的逻辑电路执行包括以下各项的操作:基于从主机接收到的第一命令和第一地址,将第一数据记录在所述多个存储单元处;和基于从所述主机接收到的第三数据和基于从所述主机接收到的第二命令和第二地址而读取的所述第一数据来执行第一pim运算;和在第二操作模式下,使所述逻辑电路执行包括以下各项的操作:基于所述第一命令和所述第一地址将第二数据记录在所述多个存储单元处;当从所述主机接收到第四数据时生成索引;响应于所述第二命令和所述第二地址,基于所述索引生成权重地址;和基于所述第四数据和响应于所述第二命令和所述权重地址而读取的所述第二数据来执行第二pim运算。

4、根据一些实施例,一种包括存储装置的操作方法,所述存储装置包括多个存储器芯片,所述多个存储器芯片均包括多个存储单元,所述方法包括:在第一操作模式下,使所述存储装置中包括的逻辑电路执行包括以下各项的操作:基于从主机接收到的第一命令和第一地址,将第一数据记录在所述多个存储单元处;和基于从所述主机接收到的第三数据和响应于从所述主机接收到的第二命令和第二地址而读取的所述第一数据来执行第一pim运算,和在第二操作模式下,使所述逻辑电路执行包括以下各项的操作:基于所述第一命令和所述第一地址,将第二数据记录在所述多个存储单元处;从所述主机接收第四数据;当所述第四数据包括非零值时生成索引;响应于所述第二命令和所述第二地址,基于所述索引生成权重地址;和基于所述第四数据和响应于所述第二命令和所述权重地址而读取的所述第二数据来执行第二pim运算。

技术特征:

1.一种存储装置,所述存储装置包括:

2.根据权利要求1所述的存储装置,其中,所述第一数据包括多个元素组,所述多个元素组均包括沿第一方向记录在所述多个存储体处的多个元素,并且

3.根据权利要求2所述的存储装置,其中,所述逻辑电路被配置为:在所述第一操作模式下,基于接收到的所述第三数据和所述多个元素组当中的响应于从所述主机接收到的第二命令和第二地址而读取的一个元素组来执行所述第一pim运算中的第一运算。

4.根据权利要求3所述的存储装置,其中,所述逻辑电路包括矢量寄存器,并且

5.根据权利要求3所述的存储装置,其中,所述逻辑电路包括矢量寄存器,

6.根据权利要求5所述的存储装置,其中,所述逻辑电路被配置为:基于接收到的所述第三数据和基于接收到的所述第二命令和所述第二地址而沿所述第二方向读取的下一个元素组来执行所述第一运算,并且基于该第一运算的结果和从所述矢量寄存器顺序输出的pim数据来执行所述第一pim运算中的第二运算。

7.根据权利要求1所述的存储装置,其中,所述逻辑电路被配置为:在所述第二操作模式下,当所述第四数据包括非零值时,基于所述第四数据的所述非零值来生成索引,并且响应于从所述主机接收到的第二命令和第二地址,基于所述索引来生成权重地址。

8.根据权利要求7所述的存储装置,其中,所述第二数据包括多个元素组,所述多个元素组均包括沿第一方向记录在所述多个存储体处的多个元素,所述第一方向包括所述多个存储单元所排列的行方向或列方向,

9.根据权利要求8所述的存储装置,其中,所述逻辑电路包括矢量寄存器,

10.根据权利要求8所述的存储装置,其中,所述逻辑电路包括矢量寄存器,

11.根据权利要求10所述的存储装置,其中,所述逻辑电路被配置为基于所述第四数据和基于先前接收到的所述第二命令和所述权重地址而沿所述第一方向读取的下一个元素组来执行所述第一运算,并且基于该第一运算的结果和从所述矢量寄存器顺序输出的pim数据来执行所述第二pim运算中的第二运算。

12.根据权利要求1所述的存储装置,其中,所述第一pim运算和所述第二pim运算均包括乘积累加运算。

13.一种存储装置的操作方法,所述存储装置包括多个存储器芯片,所述多个存储器芯片均包括多个存储单元,所述方法包括:

14.根据权利要求13所述的方法,其中,所述第一数据包括多个元素组,所述多个元素组均包括沿第一方向记录在所述多个存储单元处的多个元素,所述方法还包括:

15.根据权利要求14所述的方法,所述方法还包括:

16.根据权利要求13所述的方法,其中,所述第二数据包括多个元素组,所述多个元素组均包括沿第一方向记录在所述多个存储单元处的多个元素,所述方法还包括:

17.根据权利要求16所述的方法,所述方法还包括:

18.一种存储装置的操作方法,所述存储装置包括多个存储器芯片,所述多个存储器芯片均包括多个存储单元,所述方法包括:

19.根据权利要求18所述的方法,其中,所述第一数据和所述第二数据均包括多个元素组,所述多个元素组均包括沿第一方向记录在所述多个存储单元处的多个元素,

20.根据权利要求18所述的方法,其中,所述第一pim运算和所述第二pim运算均包括乘积累加运算。

技术总结公开了一种用于存储器中处理的存储装置和存储装置的操作方法。所述存储装置包括多个存储器芯片。所述多个存储器芯片均包括多个存储体和逻辑电路。在第一操作模式下,所述逻辑电路基于从所述主机接收到的第一命令和第一地址将第一数据写入到所述多个存储体中,并且基于从所述主机接收到的第三数据和所述第一数据来执行第一存储器中处理(PIM)运算。在第二操作模式下,所述逻辑电路基于从所述主机接收到的第一命令和第一地址将第二数据写入到所述多个存储体中,并且基于从所述主机接收到的与所述第三数据不同的第四数据和所述第二数据来执行第二PIM运算。技术研发人员:许宰荣,金炳澔,鲁有桓,刘承周,李硕汉受保护的技术使用者:三星电子株式会社技术研发日:技术公布日:2024/10/10

本文地址:https://www.jishuxx.com/zhuanli/20241015/315904.html

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 YYfuon@163.com 举报,一经查实,本站将立刻删除。