用于压缩和解压缩稀疏数据集合的方法和装置与流程

背景技术：

1、本公开一般涉及数字电路和系统，并且特别涉及用于针对稀疏计算的压缩复用的方法和装置。

2、许多现代数字系统和应用需要处理大体量的数字值。例如，人工智能应用可能需要存储(例如，在存储器中)和处理(例如，执行数学运算)表示激活或权重的大量数字值数组。然而，在多种情况下，如此大体量的数据可能包含大量零值。零值的计算常常是处理的例外，并且系统可能会跳过或以其他方式忽略它。

3、输入数据集合通常具有随机分布在数据集合上的零值和非零值，其中零值通常表示总数据集合的一定百分比(称为稀疏性)。例如，对于ai加速器和工作负载，稀疏性是一个越来越重要的特征，需要在硬件中支持该特征以实现性能加速。具体而言，存储和取回来自存储器的数据集合对系统而言是一项繁重的开销。

4、本文所描述的实施例有利地将压缩数据存储在存储器中，以减少与将数据从存储器读入到处理器中相关联的存储器带宽。

技术实现思路

技术特征：

1.一种数字电路，包括：

2.根据权利要求1所述的电路，其中所述处理器还使用所述两个第二位掩码来将所述两个n长度数字值集合解压缩成两个m长度数字值集合，其中m是大于n的第二整数。

3.根据权利要求1所述的电路，其中被存储在所述存储器中的包括所述多个数字值的所述数据使用多级压缩算法而被压缩。

4.根据权利要求1所述的电路，其中m除以n是2的幂。

5.根据权利要求1所述的电路，其中所述第一位掩码的长度至少为2*n，并且所述两个n长度数字值集合各自包括n/2个非零数字值。

6.根据权利要求5所述的电路，其中所述两个m长度位掩码与所述n个非零数字值和长度为2*n的所述位掩码被存储在所述存储器中。

7.根据权利要求5所述的电路，其中所述第一位掩码包括2*n位。

8.根据权利要求1所述的电路，其中所述两个第二位掩码各自包括m位。

9.根据权利要求1所述的电路，其中所述n个非零数字值作为值对被存储在所述存储器中。

10.根据权利要求9所述的电路，其中所述两个第二位掩码各自包括m/2位。

11.一种解压缩数据的方法，包括：

12.根据权利要求11所述的方法，其中所述处理器还使用所述两个第二位掩码来将所述两个n长度数字值集合解压缩成两个m长度数字值集合，其中m是大于n的第二整数。

13.根据权利要求11所述的方法，其中所述n个非零数字值作为值对被存储在所述存储器中。

14.根据权利要求11所述的方法，其中被存储在所述存储器中的包括所述多个数字值的所述数据使用多级压缩算法而被压缩。

15.根据权利要求11所述的方法，其中所述两个m长度位掩码与所述n个非零数字值和所述位掩码被存储在所述存储器中。

技术总结本公开的实施例包括用于多级压缩的数字电路和方法。使用多级压缩算法来压缩数字数据值并将其存储在存储器中。解压缩电路接收这些值并执行部分解压缩。将部分压缩的值提供给处理器，处理器执行最终解压缩。在一个实施例中，使用第一位掩码来将N长度压缩值的向量解压缩为具有非零值的两个N长度集合。使用两个M长度位掩码来将这两个N长度集合进一步解压缩成M长度稀疏向量，每个稀疏向量都具有非零值。技术研发人员：M·C·赫德斯,A·莫尔,N·沙赫,T·赫夫勒受保护的技术使用者：微软技术许可有限责任公司技术研发日：技术公布日：2024/9/26