卷积神经网络的任务调度方法、系统、设备及存储介质

技术特征：
1.一种卷积神经网络的任务调度方法，其特征在于，包括：接收待处理图像，并确定所述待处理图像对应的网络任务；根据所述卷积神经网络所在脉动阵列的数据流方式构建性能模型；其中，所述数据流方式为权重固定数据流、输入固定数据流或输出固定数据流；利用所述性能模型计算所述脉动阵列中每一加速器处理每一所述网络任务的时延信息，根据所述时延信息将所有所述网络任务分配至对应的加速器，以便得到所述卷积神经网络对所述待处理图像的图像处理结果。2.根据权利要求1所述卷积神经网络的任务调度方法，其特征在于，根据所述卷积神经网络所在脉动阵列的数据流方式构建性能模型，包括：根据所述脉动阵列的数据流方式确定卷积层执行时延l
conv
；根据所述卷积神经网络的输出层大小确定池化层执行时延l
pool
；确定所述卷积神经网络的缓存时延l
buf
；其中，所述缓存时延l
buf
为卷积核缓存不足的总时延、输入缓存不足的总时延和输出缓存不足的总时延的总和；根据所述卷积神经网络的总层数h、卷积层数h
conv
、池化层数h
pool
、卷积层执行时延l
conv
、池化层执行时延l
pool
和缓存时延l
buf
构建所述性能模型。3.根据权利要求2所述卷积神经网络的任务调度方法，其特征在于，根据所述脉动阵列的数据流方式确定卷积层执行时延l
conv
，包括：若所述脉动阵列的数据流方式为权重固定数据流，则利用第一公式计算卷积层执行时延l
conv
；若所述脉动阵列的数据流方式为输入固定数据流，则利用第二公式计算卷积层执行时延l
conv
；若所述脉动阵列的数据流方式为输出固定数据流，则利用第三公式计算卷积层执行时延l
conv
；其中，所述第一公式为s1＝w
o
×
h
o
×
r1 r2；所述第二公式为s2＝k
×
r1 r2；所述第三公式为l
conv
＝n
t3
×
s3，s3＝f
conv
×
f
conv
×
d
i
×
r1 r2；f
conv
表示卷积核的高度，d
i
表示卷积输入层深度，n
r
表示脉动阵列的行数，k表示卷积核数量，n
c
表示脉动阵列的列数，w
o
表示输出层的宽度，h
o
表示输出层的高度，r1表示一次乘加操作的时延，r2表示并行任务启动的时延。4.根据权利要求1所述卷积神经网络的任务调度方法，其特征在于，所述脉动阵列包括异构的脉动阵列加速器群；相应的，根据所述时延信息将所有所述网络任务分配至对应的加速器，包括：在约束条件下将所有所述网络任务分配至对应的加速器；其中，所述约束条件为脉动阵列加速器群处理所有所述网络任务的整体时延最小。5.根据权利要求1所述卷积神经网络的任务调度方法，其特征在于，在根据所述时延信
息将所有所述网络任务分配至对应的加速器之后，还包括：对所述加速器的任务队列中的网络任务设置优先级分数；控制所述加速器按照优先级分数从高到低的顺序处理对应的网络任务；在所述加速器处理完一个网络任务后，增加任务队列的所有网络任务的优先级分数。6.根据权利要求1所述卷积神经网络的任务调度方法，其特征在于，在根据所述时延信息将所有所述网络任务分配至对应的加速器之后，还包括：判断所述加速器的任务队列中的网络任务是否符合分解标准；其中，所述分解标准为分解所述网络任务后处理所有所述网络任务的整体时延降低；若是，则将所述网络任务分解为多个子任务，并将所述子任务作为新的网络任务分配至对应的加速器。7.根据权利要求6所述卷积神经网络的任务调度方法，其特征在于，在将所述网络任务分解为多个子任务之后，还包括：确定所有所述子任务的执行顺序，控制所述脉动阵列按照所述执行顺序逐个处理所述子任务。8.一种卷积神经网络的任务调度系统，其特征在于，包括：任务确认模块，用于接收待处理图像，并确定所述待处理图像对应的网络任务；模型构建模块，用于根据所述卷积神经网络所在脉动阵列的数据流方式构建性能模型；其中，所述数据流方式为权重固定数据流、输入固定数据流或输出固定数据流；任务处理模块利用所述性能模型计算所述脉动阵列中每一加速器处理每一所述网络任务的时延信息，根据所述时延信息将所有所述网络任务分配至对应的加速器，以便得到所述卷积神经网络对所述待处理图像的图像处理结果。9.一种电子设备，其特征在于，包括存储器和处理器，所述存储器中存储有计算机程序，所述处理器调用所述存储器中的计算机程序时实现如权利要求1至7任一项所述卷积神经网络的任务调度方法的步骤。10.一种存储介质，其特征在于，所述存储介质中存储有计算机可执行指令，所述计算机可执行指令被处理器加载并执行时，实现如上权利要求1至7任一项所述卷积神经网络的任务调度方法的步骤。

技术总结
本申请公开了一种卷积神经网络的任务调度方法、系统、设备及存储介质，所属的技术领域为机器学习技术领域。卷积神经网络的任务调度方法，包括：接收待处理图像，并确定所述待处理图像对应的网络任务；根据所述卷积神经网络所在脉动阵列的数据流方式构建性能模型；利用所述性能模型计算所述脉动阵列中每一加速器处理每一所述网络任务的时延信息，根据所述时延信息将所有所述网络任务分配至对应的加速器，以便得到所述卷积神经网络对所述待处理图像的图像处理结果。本申请能够降低卷积神经网络的对网络任务的响应时间，提高图像处理效率。提高图像处理效率。提高图像处理效率。


技术研发人员：阎凯歌 宋艳爽 谭婧炜佳
受保护的技术使用者：吉林大学
技术研发日：2022.08.12
技术公布日：2022/10/18