神经网络操作方法和设备与流程

技术特征：
1.一种计算机实施的神经网络操作方法，包括：将将被执行神经网络的操作的矩阵存储在存储器中；通过混洗器从存储器读取将被执行神经网络的操作的矩阵；通过混洗器对矩阵的元素的一部分进行混洗，并将混洗的矩阵发送给运算器；和通过运算器基于混洗的矩阵执行所述操作的替换操作。2.根据权利要求1所述的神经网络操作方法，其中，通过混洗器对矩阵的元素的一部分进行混洗的步骤包括：通过对矩阵的元素的一部分执行预定的读取操作或预定的存储操作，对矩阵的元素的一部分进行混洗。3.根据权利要求1所述的神经网络操作方法，其中，混洗的步骤包括：对包括在矩阵中的第一矩阵的行和列中的任一者或两者以及包括在矩阵中的第二矩阵的行和列中的任一者或两者进行混洗。4.根据权利要求3所述的神经网络操作方法，其中，混洗的步骤包括：将第一矩阵的行或列中的一行或一列存储在存储器中；将第一矩阵的行或列中的另一行或另一列存储在存储器中的与存储第一矩阵的行或列中的所述一行或所述一列的位置相距预定间隔的位置处；和将第二矩阵的行或列中的一行或一列存储在存储器中的存储第一矩阵的行或列中的所述一行或所述一列的位置与存储第一矩阵的行或列中的所述另一行或所述另一列的位置之间。5.根据权利要求4所述的神经网络操作方法，其中，预定间隔基于将被执行所述操作的操作数矩阵的数量而被确定。6.根据权利要求3所述的神经网络操作方法，其中，通过混洗器对矩阵的元素的一部分进行混洗并将混洗的矩阵发送给运算器的步骤包括：从存储器读取第一矩阵的行或列中的一行或一列，并将读取的第一矩阵的行或列中的一行或一列发送给运算器以用于替换操作；和从存储器读取第二矩阵的行或列中的一行或一列，并将读取的第二矩阵的行或列中的一行或一列发送给运算器，以便与第一矩阵的行或列中的所述一行或所述一列邻近地被操作。7.根据权利要求1至权利要求6中的任意一项所述的神经网络操作方法，其中，所述操作包括逐元素求和操作和逐元素最大操作中的任一者或两者。8.根据权利要求1至权利要求6中的任意一项所述的神经网络操作方法，其中，替换操作包括最大池化操作、平均池化操作、求和池化操作和卷积操作中的任何一种或任何两种或更多种的任何组合。9.根据权利要求1至权利要求6中的任意一项所述的神经网络操作方法，其中，执行的步骤包括：当在所述操作之后将执行另一操作时，将替换操作和所述另一操作合并。10.根据权利要求9所述的神经网络操作方法，其中，合并的步骤包括：确定替换操作和所述另一操作是否是可合并的；和基于确定结果将替换操作和所述另一操作合并。11.根据权利要求10所述的神经网络操作方法，其中，基于确定结果将替换操作和所述另一操作合并的步骤包括：通过基于将被执行混洗的矩阵的操作数矩阵的数量调整所述另
一操作的核大小和所述另一操作的步长大小来将替换操作和所述另一操作合并。12.根据权利要求1所述的神经网络操作方法，还包括：通过混洗器将混洗的矩阵发送给存储器进行存储；和通过运算器从存储器读取混洗的矩阵。13.一种计算机实施的神经网络操作方法，包括：通过混洗器从运算器接收将被执行神经网络的操作的矩阵；通过混洗器对矩阵的元素的一部分进行混洗，并将混洗的矩阵存储在存储器中；通过运算器从存储器读取混洗的矩阵；和通过运算器基于混洗的矩阵执行所述操作的替换操作。14.根据权利要求13所述的神经网络操作方法，其中，通过混洗器对矩阵的元素的一部分进行混洗的步骤包括：通过对矩阵的元素的一部分执行预定的存储操作，对矩阵的元素的一部分进行混洗。15.根据权利要求13所述的神经网络操作方法，其中，混洗的步骤包括：对包括在矩阵中的第一矩阵的行和列中的任一者或两者以及包括在矩阵中的第二矩阵的行和列中的任一者或两者进行混洗。16.根据权利要求15所述的神经网络操作方法，其中，混洗的步骤包括：将第一矩阵的行或列中的一行或一列存储在存储器中；将第一矩阵的行或列中的另一行或另一列存储在存储器中的与存储第一矩阵的行或列中的所述一行或所述一列的位置相距预定间隔的位置处；和将第二矩阵的行或列中的一行或一列存储在存储器中的存储第一矩阵的行或列中的所述一行或所述一列的位置与存储第一矩阵的行或列中的所述另一行或所述另一列的位置之间。17.一种存储指令的非暂时性计算机可读存储介质，所述指令在被一个或多个处理器执行时，配置所述一个或多个处理器执行如权利要求1至权利要求16中任意一项所述的神经网络操作方法。18.一种神经网络操作设备，包括：存储器，被配置为存储将被执行神经网络的操作的矩阵；和处理器，被配置为：从存储器读取将被执行神经网络的操作的矩阵；对矩阵的元素的一部分进行混洗，并且基于混洗的矩阵执行所述操作的替换操作。19.根据权利要求18所述的神经网络操作设备，其中，处理器还被配置为：通过对矩阵的元素的一部分执行预定的读取操作或预定的存储操作，对矩阵的元素的一部分进行混洗。20.根据权利要求18所述的神经网络操作设备，其中，处理器还被配置为：对包括在矩阵中的第一矩阵的行和列中的任一者或两者以及包括在矩阵中的第二矩阵的行和列中的任一者或两者进行混洗。21.根据权利要求20所述的神经网络操作设备，其中，处理器被配置为：将第一矩阵的行或列中的一行或一列存储在存储器中；将第一矩阵的行或列中的另一行或另一列存储在存储器中的与存储第一矩阵的行或列中的所述一行或所述一列的位置相距预定间隔的位置处；和
将第二矩阵的行或列中的一行或一列存储在存储器中的存储第一矩阵的行或列中的所述一行或所述一列的位置与存储第一矩阵的行或列中的所述另一行或所述另一列的位置之间。22.根据权利要求21所述的神经网络操作设备，其中，预定间隔基于将被执行所述操作的操作数矩阵的数量而被确定。23.根据权利要求20所述的神经网络操作设备，其中，处理器被配置为：从存储器读取第一矩阵的行或列中的一行或一列，并将读取的第一矩阵的行或列中的一行或一列发送给运算器以用于替换操作；和从存储器读取第二矩阵的行或列中的一行或一列，并将读取的第二矩阵的行或列中的一行或一列发送给运算器，以便与第一矩阵的行或列中的所述一行或所述一列邻近地被操作。24.根据权利要求18至权利要求23中的任意一项所述的神经网络操作设备，其中，所述操作包括逐元素求和操作和逐元素最大操作中的任一者或两者。25.根据权利要求18至权利要求23中的任意一项所述的神经网络操作设备，其中，替换操作包括最大池化操作、平均池化操作、求和池化操作和卷积操作中的任何一种或任何两种或更多种的任何组合。26.根据权利要求18至权利要求23中的任意一项所述的神经网络操作设备，其中，处理器还被配置为：当在所述操作之后将执行另一操作时，将替换操作和所述另一操作合并。27.根据权利要求26所述的神经网络操作设备，其中，处理器还被配置为：确定替换操作和所述另一操作是否是可合并的；和基于确定结果将替换操作和所述另一操作合并。28.根据权利要求27所述的神经网络操作设备，其中，处理器还被配置为：通过基于将被执行混洗的矩阵的操作数矩阵的数量调整所述另一操作的核大小和所述另一操作的步长大小来将替换操作和所述另一操作合并。29.一种神经网络操作设备，包括：混洗器，被配置为从运算器接收将被执行神经网络的操作的矩阵，对矩阵的元素的一部分进行混洗，并将混洗的矩阵存储在存储器中；存储器，被配置为存储混洗的矩阵；和运算器，被配置为从存储器读取混洗的矩阵，并且基于混洗的矩阵执行所述操作的替换操作。

技术总结
公开了神经网络操作方法和设备。一种计算机实施的神经网络操作方法包括：将将被执行神经网络的操作的矩阵存储在存储器中；通过混洗器从存储器读取将被执行神经网络的操作的矩阵；通过混洗器对矩阵的元素的一部分进行混洗，并将混洗的矩阵发送给运算器；和通过运算器基于混洗的矩阵执行所述操作的替换操作。器基于混洗的矩阵执行所述操作的替换操作。器基于混洗的矩阵执行所述操作的替换操作。


技术研发人员：南憙佑
受保护的技术使用者：三星电子株式会社
技术研发日：2021.03.09
技术公布日：2022/3/8