一种图像处理方法、数据处理方法、设备、介质及产品与流程
- 国知局
- 2024-11-25 15:17:51
本发明涉及人工智能,特别是涉及一种图像处理方法、数据处理方法、设备、介质及产品。
背景技术:
1、随着人工智能(artificial intelligence,ai)技术的发展,所采用的人工智能模型的规模和复杂度不断增加,其涉及到的计算复杂度和存储需求也会随着模型规模的增加而增长,导致为维持高性能的模型计算给计算资源和存储资源都带来巨大的压力。例如,在图像处理领域,在利用视觉模型处理输入的图像数据时,由于图像数据本身的复杂度、图像处理任务的复杂度以及图像处理任务的数量激增等情况,给用于执行图像处理的计算设备带来巨大的计算压力和存储压力。
2、如何缓解人工智能模型计算对计算资源和存储资源的需求的压力,是本领域技术人员需要解决的技术问题。
技术实现思路
1、本发明的目的是提供一种图像处理方法、数据处理方法、设备、介质及产品,用于缓解人工智能模型对计算资源和存储资源的需求的压力。
2、为解决上述技术问题,本发明提供一种图像处理方法,包括:
3、接收输入图像;
4、利用图像处理模型将所述输入图像进行向量化处理后,根据得到的序列数据进行张量计算;
5、在进行张量计算的过程中,对待进行所述张量计算的张量算子进行规模扩充至各维度的元素数量均为z个正整数的乘积,得到第一张量算子;将所述第一张量算子进行重排元素处理,以在升高所述第一张量算子的维度的同时降低所述第一张量算子的每个维度的元素数量,得到第二张量算子,且所述第二张量算子对应所述第一张量算子的各维度的增维数量相同;对所述第二张量算子进行张量列分解处理,得到第三张量算子;利用所述第三张量算子执行所述张量计算;
6、输出图像处理结果;
7、其中,z为大于1的正整数。
8、一方面,将所述张量算子处理为所述第三张量算子,包括:
9、根据所述图像处理模型的模型计算精度需求参数,确定将所述张量算子处理为所述第三张量算子的转换系数。
10、另一方面,根据所述图像处理模型的模型计算精度需求参数,确定将所述张量算子处理为所述第三张量算子的转换系数,包括:
11、根据所述模型计算精度需求参数,确定所述第三张量算子的秩数。
12、另一方面,将所述张量算子处理为所述第三张量算子,包括:
13、根据所述图像处理模型的模型计算精度需求参数和分配给所述张量计算的计算参数存储空间的大小,确定将所述张量算子处理为所述第三张量算子的转换系数。
14、另一方面,根据所述图像处理模型的模型计算精度需求参数和分配给所述张量计算的计算参数存储空间的大小,确定将所述张量算子处理为所述第三张量算子的转换系数,包括:
15、根据所述模型计算精度需求参数,确定所述第三张量算子所允许的最小秩数;
16、根据所述最小秩数生成所述第三张量算子;
17、确定利用所述第三张量算子执行所述张量计算所需的参数数量,若不足以占用分配给所述张量计算的计算参数存储空间,则增加所述第三张量算子的秩数后重新生成所述第三张量算子,并重新确定利用所述第三张量算子执行所述张量计算所需的参数数量。
18、另一方面,根据所述图像处理模型的模型计算精度需求参数和分配给所述张量计算的计算参数存储空间的大小,确定将所述张量算子处理为所述第三张量算子的转换系数,包括:
19、根据所述模型计算精度需求参数,确定所述第三张量算子所允许的最小秩数;
20、根据所述最小秩数生成所述第三张量算子;
21、将所述张量算子进行规模扩充并进行重排元素处理得到所述第二张量算子,所述第二张量算子为将对应所述张量算子的各维度元素均重排为k维,且k维元素中各维元素数量均能够表达为指数形式,且底数和指数均为正整数;
22、根据所述第二张量算子中各维度对应位置的底数的乘积和所述第三张量算子的秩数确定单个所述第三张量算子的参数数量,其中若底数能够进行开根号计算得到非1正整数则对底数进行开根号计算后再进行乘积计算;
23、若一组所述第三张量算子的参数数量的最大值不足以占用分配给所述张量计算的单组计算的计算参数存储空间,则更改对所述张量算子的规模扩充尺度或对所述第一张量算子的重排元素方式,重新生成所述第二张量算子后,返回根据所述第二张量算子中各维度对应位置的底数的乘积和所述第三张量算子的秩数确定单个所述第三张量算子的参数数量。
24、另一方面,根据所述图像处理模型的模型计算精度需求参数和分配给所述张量计算的计算参数存储空间的大小,确定将所述张量算子处理为所述第三张量算子的转换系数,包括:
25、将所述张量算子进行规模扩充并进行重排元素处理得到所述第二张量算子,所述第二张量算子为将对应所述张量算子的各维度元素均重排为k维,且k维元素中各维元素数量均能够表达为指数形式,且底数和指数均为正整数;
26、根据所述第二张量算子中各维度对应位置的底数的乘积和所述第三张量算子的秩数确定单个所述第三张量算子的参数数量,其中若底数能够进行开根号计算得到非1正整数则对底数进行开根号计算后再进行乘积计算;
27、根据所述第二张量算子中单个维度的指数之和确定所述第三张量算子的个数;
28、根据单个所述第三张量算子的参数数量以及所述第三张量算子的个数确定所述张量计算的参数数量;
29、若所述张量计算的参数数量不足以占用分配给所述张量计算的计算参数存储空间,则更改对所述张量算子的规模扩充尺度或对所述第一张量算子的重排元素方式,重新生成所述第二张量算子后,返回根据所述第二张量算子中各维度对应位置的底数的乘积和所述第三张量算子的秩数确定单个所述第三张量算子的参数数量以及根据所述第二张量算子中单个维度的指数之和确定所述第三张量算子的个数。
30、另一方面,将所述张量算子处理为所述第三张量算子,包括:
31、根据模型计算精度需求参数,确定所述第三张量算子的秩数;
32、将所述张量算子进行规模扩充并进行重排元素处理得到所述第二张量算子,所述第二张量算子为将对应所述张量算子的各维度元素均重排为k维,且k维元素中各维元素数量均能够表达为指数形式,且底数和指数均为正整数;
33、根据所述第二张量算子中各维度对应位置的底数的乘积和所述第三张量算子的秩数确定单个所述第三张量算子的参数数量,其中若底数能够进行开根号计算得到非1正整数则对底数进行开根号计算后再进行乘积计算;
34、根据所述第二张量算子中单个维度的指数之和确定所述第三张量算子的个数;
35、根据所述第三张量算子的秩数、单个所述第三张量算子的参数数量以及所述第三张量算子的个数确定所述张量计算的参数数量;
36、以所述张量计算的参数数量最小化为优化目标,求解得到将张量算子扩充为所述第一张量算子的方式以及将所述第二张量算子重排为所述第三张量算子的方式。
37、另一方面,所述张量计算为对两个所述张量算子的乘法计算;
38、对所述张量算子进行规模扩充,包括:
39、将两个所述张量算子均扩充至各维度的元素数量均为z个正整数的乘积且各维度的元素数量满足对两个所述张量算子进行乘法计算的需求。
40、另一方面,进行乘法计算的两个所述张量算子均为二维张量算子,两个所述张量算子中的被乘数张量算子的列数与两个所述张量算子中的乘数张量算子的行数相同。
41、另一方面,利用所述第三张量算子执行所述张量计算,包括:
42、将所述第三张量算子存入高速缓存后,自所述高速缓存读取所述第三张量算子以执行所述张量计算。
43、为解决上述技术问题,本发明还提供一种数据处理方法,包括:
44、根据模型计算任务确定存储设备的信息与计算设备的信息后,自所述存储设备读取所述模型计算任务对应的待处理数据;
45、利用目标模型将所述待处理数据进行向量化处理后,根据得到的序列数据进行张量计算;
46、在进行张量计算的过程中,对待进行所述张量计算的张量算子进行规模扩充至各维度的元素数量均为z个正整数的乘积,得到第一张量算子;将所述第一张量算子进行重排元素处理,以在升高所述第一张量算子的维度的同时降低所述第一张量算子的每个维度的元素数量,得到第二张量算子,且所述第二张量算子对应所述第一张量算子的各维度的增维数量相同;对所述第二张量算子进行张量列分解处理,得到第三张量算子;将所述第三张量算子写入所述计算设备的计算参数存储空间,以利用所述第三张量算子执行所述张量计算;
47、输出与所述待处理数据对应的处理结果;
48、其中,z为大于1的正整数。
49、为解决上述技术问题,本发明还提供一种计算设备,包括:
50、存储器,用于存储计算机程序;
51、处理器,用于执行所述计算机程序,所述计算机程序被所述处理器执行时实现如上述任意一项所述图像处理方法的步骤或上述数据处理方法的步骤。
52、为解决上述技术问题,本发明还提供一种非易失性存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如上述任意一项所述图像处理方法的步骤或上述数据处理方法的步骤。
53、为解决上述技术问题,本发明还提供一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现如上述任意一项所述图像处理方法的步骤或上述数据处理方法的步骤。
54、本发明所提供的图像处理方法,有益效果在于通过在利用图像处理模型处理输入图像时,在利用图像处理模型将输入图像进行向量化处理并进行张量计算时,对待进行张量计算的张量算子进行规模扩充至各维度的元素数量均为z个正整数的乘积形式,再进行增维处理并使各维度的增维数量相同,再进行张量列分解处理,在利用张量列分解实现将张量算子分解以及降低算子参数量的同时,适应于计算设备执行模型计算时进行张量列分解为合适形式,从而在计算设备执行图像处理任务时能够显著降低张量算子的复杂度,降低张量计算的复杂度,缓解给计算资源带来的压力,同时降低了张量算子的参数量,缓解给存储资源带来的压力,且能够将一次张量计算转换为多组小规模张量算子的并行计算,在计算资源允许的情况下能够提升图像处理任务的性能。
55、本发明所提供的数据处理方法,通过在根据模型计算任务确定存储设备的信息与计算设备的信息,并自存储设备读取模型计算任务对应的待处理数据到计算设备的计算参数存储空间以执行模型计算任务时,在利用目标模型将待处理数据进行向量化处理并进行张量计算时,对待进行张量计算的张量算子进行规模扩充至各维度的元素数量均为z个正整数的乘积形式,再进行增维处理并使各维度的增维数量相同,再进行张量列分解处理,在利用张量列分解实现将张量算子分解以及降低算子参数量的同时,适应于计算设备执行模型计算时进行张量列分解为合适形式,从而在计算设备执行模型计算任务时能够显著降低张量算子的复杂度,降低张量计算的复杂度,缓解给计算资源带来的压力,同时降低了张量算子的参数量,缓解给存储资源带来的压力,且能够将一次张量计算转换为多组第三张量算子的并行计算,在计算资源允许的情况下能够提升模型计算任务的性能。
56、本发明提供的计算设备、非易失性存储介质及计算机程序产品,具有上述有益效果,在此不再赘述。
本文地址:https://www.jishuxx.com/zhuanli/20241125/337186.html
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 YYfuon@163.com 举报,一经查实,本站将立刻删除。