适用于存储器内运算的通用存储器及其操作方法与流程

本公开是有关于一种存储器及其操作方法，且特别是有关于一种适用于存储器内运算的通用存储器及其操作方法。

背景技术：

1、在人工智能模型的运算中，需要大量的数据在存储器与处理器之间进行搬移，而形成范纽曼瓶颈(von-neumann bottleneck)。为了提高运算的效率，提出了一种存储器内运算架构。

2、人工智能模型的运算包含训练模式(training)与推论模式(inference)。在训练模式中，需要对存储器重复进行编程与擦除的动作，以改变权重值(weight)，而需要采用可靠度(endurance)较高的存储器。在推论模式中，则需要维持住权重值，以进行推论的计算，而需要采用保持力(retention)较高的存储器。

3、然而，可靠度高的存储器与保持力高的存储器通常是不同型态的存储器。在传统的存储器技术中，难以找到能够同时具有高可靠度与高保持力的存储器，而没有任何存储器可以同时适用于人工智能运算的训练模式与推论模式。

技术实现思路

1、本公开有关于一种适用于存储器内运算的通用存储器及其操作方法，其利用2t结构，使得通用存储器可以适用于人工智能的训练模式与推论模式。在训练模式及推论模式，权重值储存于单位存储单元的不同处。通用存储器执行于训练模式时，可以提供如同动态随机存取存储器(dynamic random access memory,dram)的高可靠度，以满足大量的权重值更新动作；通用存储器执行于推论模式时，可以供如同非易失性存储器的非易失性与高保持力，以使权重值能够在低耗电的情况下保持良好。

2、根据本公开的一方面，提出一种适用于存储器内运算(in-memory computing，imc)的通用存储器。通用存储器包括至少一写入字线、至少一单位存储单元及至少一读取字线。单位存储单元包括一写入晶体管及一读取晶体管。写入晶体管的栅极连接于写入字线，写入晶体管为一阈值电压可调晶体管，读取晶体管的栅极连接于写入晶体管的漏极或源极。读取字线连接于读取晶体管的漏极或源极。在一训练模式中，介于写入晶体管与读取晶体管之间的一储存节点的一储存电平代表单位存储单元的一权重值(weight)。在一推论模式中，写入晶体管的一阈值电压代表单位存储单元的权重值。

3、根据本公开的另一方面，提出一种适用于存储器内运算的通用存储器的操作方法。通用存储器包括至少一单位存储单元，单位存储单元包括一写入晶体管及一读取晶体管。读取晶体管的栅极连接于写入晶体管的漏极或源极。通用存储器的操作方法包括以下步骤。进行一训练模式的一权重变更程序。在训练模式的权重变更程序中，对介于写入晶体管与读取晶体管之间的一储存节点充电或放电至一储存电平。储存节点的储存电平代表单位存储单元的一权重值(weight)。进行一推论模式的一权重设定程序。在推论模式的权重设定程序中，对写入晶体管进行编程或擦除，以改变写入晶体管的一阈值电压。写入晶体管的阈值电压代表单位存储单元的权重值。

4、根据本公开的再一方面，提出一种适用于存储器内运算的通用存储器。通用存储器包括至少一写入字线、至少一单位存储单元及至少一读取字线。单位存储单元包括一写入晶体管及一读取晶体管，写入晶体管的栅极连接于写入字线，写入晶体管为一阈值电压可调晶体管，读取晶体管的栅极连接于写入晶体管的漏极或源极。读取字线连接于读取晶体管的漏极或源极。通用存储器通用于一训练模式及一推论模式。在训练模式及推论模式，一权重值储存于单位存储单元的不同处。

5、为了对本公开的上述及其他方面有更佳的了解，下文特举实施例，并配合附图详细说明如下。

技术特征：

1.一种适用于存储器内运算的通用存储器，包括：

2.根据权利要求1所述的适用于存储器内运算的通用存储器，其中该写入晶体管的该栅极具有一电荷储存层。

3.一种适用于存储器内运算的通用存储器的操作方法，其中该通用存储器包括至少一单位存储单元，该单位存储单元包括一写入晶体管及一读取晶体管，该读取晶体管的栅极连接于该写入晶体管的漏极或源极，该操作方法包括：

4.根据权利要求3所述的适用于存储器内运算的通用存储器的操作方法，其中在该训练模式的该权重变更程序中，当该权重值改变，该写入晶体管的该阈值电压固定不变。

5.根据权利要求3所述的适用于存储器内运算的通用存储器的操作方法，还包括：

6.根据权利要求3所述的适用于存储器内运算的通用存储器的操作方法，还包括：

7.根据权利要求3所述的适用于存储器内运算的通用存储器的操作方法，还包括：

8.根据权利要求3所述的适用于存储器内运算的通用存储器的操作方法，其中该写入晶体管连接一写入位线，在该推论模式的一读取运算程序中，该写入位线的偏压大于该读取晶体管的一阈值电压。

9.根据权利要求3所述的适用于存储器内运算的通用存储器的操作方法，还包括：

10.一种适用于存储器内运算的通用存储器，包括：

技术总结本公开提供了一种用于存储器内运算的通用存储器及其操作方法。通用存储器包括至少一写入字线、至少一单位存储单元及至少一读取字线。单位存储单元包括一写入晶体管及一读取晶体管，写入晶体管的栅极连接于写入字线，写入晶体管为一阈值电压可调晶体管，读取晶体管的栅极连接于写入晶体管的漏极或源极；读取字线连接于读取晶体管的漏极或源极。通用存储器通用于一训练模式及一推论模式。在训练模式及推论模式，一权重值储存于单位存储单元的不同处。技术研发人员：李峯旻,曾柏皓,林昱佑,李明修受保护的技术使用者：旺宏电子股份有限公司技术研发日：技术公布日：2024/7/18