深度学习人工神经网络中模拟神经存储器的可编程输出块的制作方法

公开了与人工神经网络内的矢量-矩阵乘法(vmm)阵列一起使用的可编程输出块的许多实施方案。

背景技术：

1、人工神经网络模拟生物神经网络(动物的中枢神经系统，特别是大脑)，并且用于估计或近似可取决于大量输入并且通常未知的函数。人工神经网络通常包括互相交换消息的互连″神经元″层。

2、图1示出了人工神经网络，其中圆圈表示神经元的输入或层。连接部(称为突触)用箭头表示，并且具有可以根据经验进行调整的数值权重。这使得神经网络适应于输入并且能够学习。通常，神经网络包括多个输入的层。通常存在神经元的一个或多个中间层，以及提供神经网络的输出的神经元的输出层。处于每一级别的神经元分别地或共同地根据从突触所接收的数据作出决定。

3、在开发用于高性能信息处理的人工神经网络方面的主要挑战中的一个挑战是缺乏足够的硬件技术。实际上，实际神经网络依赖于大量的突触，从而实现神经元之间的高连通性，即非常高的计算并行性。原则上，此类复杂性可通过数字超级计算机或专用图形处理单元集群来实现。然而，相比于生物网络，这些方法除了高成本之外，能量效率也很普通，生物网络主要由于其执行低精度的模拟计算而消耗更少的能量。cmos模拟电路已被用于人工神经网络，但由于需要大量神经元和突触，大多数cmos实现的突触都过于庞大。

4、申请人先前在美国专利申请15/594，439(公开为美国专利公布2017/0337466)中公开了一种利用一个或多个非易失性存储器阵列作为突触的人工(模拟)神经网络，该专利申请以引用方式并入本文。非易失性存储器阵列作为模拟神经形态存储器操作。神经网络设备包括被配置成接收第一多个输入并从其生成第一多个输出的第一多个突触，以及被配置成接收第一多个输出的第一多个神经元。第一多个突触包括多个存储器单元，其中存储器单元中的每个存储器单元包括：形成于半导体衬底中的间隔开的源极区和漏极区，其中沟道区在源极区和漏极区之间延伸；设置在沟道区的第一部分上方并且与第一部分绝缘的浮栅；以及设置在沟道区的第二部分上方并且与第二部分绝缘的非浮栅。多个存储器单元中的每个存储器单元被配置成存储与浮栅上的多个电子相对应的权重值。多个存储器单元被配置成将第一多个输入乘以所存储的权重值以生成第一多个输出。

5、必须擦除和编程在模拟神经形态存储器系统中使用的每个非易失性存储器单元，以在浮栅中保持非常特定且精确的电荷量(即电子数量)。例如，每个浮栅必须保持n个不同值中的一个，其中n是可由每个单元指示的不同权重的数量。n的示例包括16、32、64、128和256。

6、使用vmm阵列的系统面临的一个挑战是能够准确测量vmm阵列的输出并将该输出传输至另一级(诸如另一vmm阵列的输入块)。已知有许多方法，但每个方法都有一定的缺点，诸如电流泄漏导致信息丢失。

7、需要的是用于从vmm阵列接收输出电流并将该输出电流转换为更适用于传输至另一级电子器件的形式的改进输出块。

技术实现思路

1、公开了与人工神经网络内的vmm阵列一起使用的可编程输出块的许多实施方案。在一个实施方案中，输出块的增益可通过配置信号进行配置。在另一个实施方案中，输出块中adc的分辨率可通过配置信号进行配置。

技术特征：

1.一种用于生成神经网络存储器阵列的输出的可编程神经元输出块，包括：

2.根据权利要求1所述的可编程神经元输出块，其中所述增益配置信号包括模拟信号。

3.根据权利要求1所述的可编程神经元输出块，其中所述增益配置信号包括数字位。

4.根据权利要求1所述的可编程神经元输出块，其中所述增益配置电路包括由所述增益配置信号控制的可变电阻器。

5.根据权利要求1所述的可编程神经元输出块，其中所述增益配置电路包括由所述增益配置信号控制的可变电容器。

6.根据权利要求1所述的可编程神经元输出块，其中所述增益配置信号取决于从其接收所述电流的所述神经网络存储器阵列中启用的数目或行或列。

7.一种用于生成神经网络存储器阵列的输出的可编程神经元输出块，包括：

8.根据权利要求7所述的可编程神经元输出块，其中所述控制信号包括模拟信号。

9.根据权利要求7所述的可编程神经元输出块，其中所述控制信号包括数字位。

10.一种用于生成神经网络存储器阵列的输出的可编程神经元输出块，包括：

11.根据权利要求10所述的可编程神经元输出块，其中所述第一模数转换器包括逐次逼近寄存器模数转换器。

12.根据权利要求11所述的可编程神经元输出块，其中所述第二模数转换器包括串行模数转换器。

13.根据权利要求10所述的可编程神经元输出块，其中所述第一模数转换器包括算法模数转换器。

14.根据权利要求13所述的可编程神经元输出块，其中所述第二模数转换器包括串行模数转换器。

技术总结公开了与人工神经网络内的VMM阵列一起使用的可编程输出块的许多实施方案。在一个实施方案中，输出块的增益可通过配置信号进行配置。在另一个实施方案中，该输出块中ADC的分辨率可通过配置信号进行配置。技术研发人员：H·V·特兰受保护的技术使用者：硅存储技术股份有限公司技术研发日：技术公布日：2024/2/21