一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

一种图像处理方法、装置、存储介质和电子设备与流程

2022-05-11 13:24:16 来源:中国专利 TAG:


1.本技术实施例涉及图像处理技术领域,尤其涉及一种图像处理方法、装置、存储介质和电子设备。


背景技术:

2.视频编码是一项十分重要的技术,被广泛运用于视频压缩和视频传输领域。视频编码技术通过减少视频空间和时间上的冗余性,能在很大程度上降低视频文件的大小,大大节省视频存储和传输成本,为视频快速传输提供了可能性。
3.而由于光线较暗、曝光时间不足等原因的存在,拍摄出来的视频往往会遭受严重的噪声干扰,并且,视频中存在的噪声会影响视频编码的编码码率。因此,在视频编码中需要同时对视频进行降噪处理。
4.目前,通常采用的方法是在编码前根据编码预测量化步长对视频帧的场景进行判断,判定视频帧为运动或者静止场景,再基于判断出的场景对视频帧进行降噪处理后再编码。然而,该方法仅通过使用编码量化步长来对视频的场景进行判定,会导致确定出的视频场景的准确性不高,从而不能达到降低编码码率的同时,提高图像效果的目的。


技术实现要素:

5.为解决现有存在的技术问题,本技术实施例提供了一种图像处理方法、装置、存储介质和电子设备,可以在降低编码码率的同时,提高图像效果。
6.为达到上述目的,本技术实施例的技术方案是这样实现的:
7.第一方面,本技术实施例提供一种图像处理方法,所述方法包括:
8.基于对目标视频帧进行编码得到的编码结果,获取所述目标视频帧对应的编码信息;
9.对所述编码信息进行分析,确定所述目标视频帧对应的场景类型,并根据所述场景类型,确定相应的图像优化策略;
10.根据所述图像优化策略,对所述目标视频帧之后的设定时间长度内的视频帧进行图像处理,并对所述图像处理后的设定时间长度内的视频帧进行编码。
11.本技术实施例提供的图像处理方法,基于对目标视频帧进行编码得到的编码结果,获取目标视频帧对应的编码信息,并对编码信息进行分析,确定目标视频帧对应的场景类型,以及根据场景类型,确定相应的图像优化策略,从而可以根据图像优化策略,对目标视频帧之后的设定时间长度内的视频帧进行图像处理,并对图像处理后的设定时间长度内的视频帧进行编码。由于视频帧之间具有时间连续性,根据目标视频帧对应的编码信息来确定出目标视频帧的场景类型,以反馈确定出后续视频帧的图像优化策略,从而可以达到在保证编码码率不变的前提下,提高后续视频帧的图像质量的效果;或者保证图像质量的前提下,降低编码码率。
12.在一种可选的实施例中,所述对所述编码信息进行分析,确定所述目标视频帧对
应的场景类型,包括:
13.将所述编码信息包括的多个类型的参数值与各类型对应的阈值进行比较,得到各类型对应的多个比较结果;
14.基于所述多个比较结果,确定所述目标视频帧对应的场景类型。
15.在该实施例中,可以将编码信息包括的多个类型的参数值与各类型对应的阈值进行比较,得到各类型对应的多个比较结果,进而基于多个比较结果,确定出目标视频帧对应的场景类型。由于编码信息中包括的每个类型的参数值都可以分别表明目标视频帧的画面状态如何,因此,根据每个类型的参数值与各类型对应的阈值进行比较得到的多个比较结果,就可以较为准确地判断出目标视频帧所对应的场景类型。
16.在一种可选的实施例中,所述编码信息包括编码码率、量化参数值、跳过宏块数和运动矢量;
17.所述基于所述多个比较结果,确定所述目标视频帧对应的场景类型,包括:
18.若所述编码码率大于第一设定阈值,所述量化参数值大于第二设定阈值,所述跳过宏块数大于第三设定阈值,所述运动矢量小于第四设定阈值且所述运动矢量的方向随机,则确定所述目标视频帧对应的场景类型为静态复杂场景;
19.若所述编码码率大于第一设定阈值,所述量化参数值大于第二设定阈值,所述跳过宏块数大于第三设定阈值,在第一设定视频帧区域内,所述运动矢量大于第四设定阈值且所述运动矢量的方向满足第一设定条件,则确定所述目标视频帧对应的场景类型为局部运动场景;
20.若所述编码码率大于第一设定阈值,所述量化参数值大于第二设定阈值,所述跳过宏块数小于第三设定阈值,所述运动矢量大于第四设定阈值且所述运动矢量的方向相同,则确定所述目标视频帧对应的场景类型为整体运动场景;
21.若所述编码码率大于第一设定阈值,所述量化参数值大于第二设定阈值,所述跳过宏块数小于第三设定阈值,所述运动矢量小于第四设定阈值且所述运动矢量的方向随机,则确定所述目标视频帧对应的场景类型为整体噪声场景。
22.在该实施例中,当编码码率大于第一设定阈值,量化参数值大于第二设定阈值,跳过宏块数大于第三设定阈值,运动矢量小于第四设定阈值且运动矢量的方向随机时,可以确定目标视频帧对应的场景类型为静态复杂场景;当编码码率大于第一设定阈值,量化参数值大于第二设定阈值,跳过宏块数大于第三设定阈值,在第一设定视频帧区域内,运动矢量大于第四设定阈值且运动矢量的方向满足第一设定条件时,可以确定目标视频帧对应的场景类型为局部运动场景;当编码码率大于第一设定阈值,量化参数值大于第二设定阈值,跳过宏块数小于第三设定阈值,运动矢量大于第四设定阈值且运动矢量的方向相同时,可以确定目标视频帧对应的场景类型为整体运动场景;当编码码率大于第一设定阈值,量化参数值大于第二设定阈值,跳过宏块数小于第三设定阈值,运动矢量小于第四设定阈值且运动矢量的方向随机时,可以确定目标视频帧对应的场景类型为整体噪声场景。从而可以准确地判断出目标视频帧所对应的场景类型。
23.在一种可选的实施例中,所述编码信息包括编码码率、量化参数值和运动矢量;
24.所述基于所述多个比较结果,确定所述目标视频帧对应的场景类型,包括:
25.若所述编码码率小于第一设定阈值,所述量化参数值小于第二设定阈值,在第二
设定视频帧区域内,所述运动矢量大于第四设定阈值且所述运动矢量的方向满足第二设定条件,则确定所述目标视频帧对应的场景类型为普通运动场景;
26.若所述编码码率小于第一设定阈值,所述量化参数值小于第二设定阈值,所述运动矢量小于第四设定阈值且所述运动矢量的方向随机,则确定所述目标视频帧对应的场景类型为普通静态场景。
27.在该实施例中,当编码码率小于第一设定阈值,量化参数值小于第二设定阈值,在第二设定视频帧区域内,运动矢量大于第四设定阈值且运动矢量的方向满足第二设定条件时,可以确定目标视频帧对应的场景类型为普通运动场景;当编码码率小于第一设定阈值,量化参数值小于第二设定阈值,运动矢量小于第四设定阈值且运动矢量的方向随机时,可以确定目标视频帧对应的场景类型为普通静态场景。从而可以准确地判断出目标视频帧所对应的场景类型。
28.在一种可选的实施例中,所述根据所述场景类型,确定相应的图像优化策略,包括:
29.基于预设的场景类型与图像优化策略之间的对应关系,确定所述目标视频帧的场景类型对应的图像优化策略。
30.在该实施例中,可以基于预设的场景类型与图像优化策略之间的对应关系,确定目标视频帧的场景类型对应的图像优化策略。由于每个场景类型都对应有相应的图像优化策略,从而在获取到目标视频帧对应的场景类型,可以基于得到的场景类型,准确地确定出目标视频帧对应的图像优化策略。
31.在一种可选的实施例中,所述预设的场景类型与图像优化策略之间的对应关系包括下列中的部分或全部:
32.若所述目标视频帧对应的场景类型为静态复杂场景,则所述图像优化策略为增加空域降噪强度和降低锐化强度;
33.若所述目标视频帧对应的场景类型为局部运动场景,则所述图像优化策略为增加时域降噪强度,提高对图像中的运动区域的锐化强度,以及降低对图像中的除运动区域以外的其他区域的锐化强度;
34.若所述目标视频帧对应的场景类型为整体运动场景,则所述图像优化策略为增加时域降噪强度和降低锐化强度;或者所述图像优化策略为提高编码码率;
35.若所述目标视频帧对应的场景类型为整体噪声场景,则所述图像优化策略为增加空域降噪强度;
36.若所述目标视频帧对应的场景类型为普通静态场景,则所述图像优化策略为减低空域降噪强度和提高锐化强度;
37.若所述目标视频帧对应的场景类型为普通运动场景,则所述图像优化策略为提高对目标宏块的锐化强度,其中目标宏块是所述目标视频帧中宏块面积小于设定面积阈值的宏块。
38.在该实施例中,当目标视频帧对应的场景类型为静态复杂场景时,可以确定图像优化策略为增加空域降噪强度和降低锐化强度;当目标视频帧对应的场景类型为局部运动场景时,可以确定图像优化策略为增加时域降噪强度,提高对图像中的运动区域的锐化强度,以及降低对图像中的除运动区域以外的其他区域的锐化强度;当目标视频帧对应的场
景类型为整体运动场景时,可以确定图像优化策略为增加时域降噪强度和降低锐化强度,或者图像优化策略为提高编码码率;当目标视频帧对应的场景类型为整体噪声场景时,可以确定图像优化策略为增加空域降噪强度;当目标视频帧对应的场景类型为普通静态场景时,可以确定图像优化策略为减低空域降噪强度和提高锐化强度;当目标视频帧对应的场景类型为普通运动场景时,可以确定图像优化策略为提高对目标宏块的锐化强度,其中目标宏块是目标视频帧中宏块面积小于设定面积阈值的宏块。从而可以根据目标视频帧所对应的场景类型,准确地确定出需要对目标视频帧执行的图像优化策略。
39.第二方面,本技术实施例还提供了一种图像处理装置,包括:
40.编码信息获取单元,用于基于对目标视频帧进行编码得到的编码结果,获取所述目标视频帧对应的编码信息;
41.优化策略确定单元,用于对所述编码信息进行分析,确定所述目标视频帧对应的场景类型,并根据所述场景类型,确定相应的图像优化策略;
42.视频编码单元,用于根据所述图像优化策略,对所述目标视频帧之后的设定时间长度内的视频帧进行图像处理,并对所述图像处理后的设定时间长度内的视频帧进行编码。
43.在一种可选的实施例中,所述优化策略确定单元,具体用于:
44.将所述编码信息包括的多个类型的参数值与各类型对应的阈值进行比较,得到各类型对应的多个比较结果;
45.基于所述多个比较结果,确定所述目标视频帧对应的场景类型。
46.在一种可选的实施例中,所述编码信息包括编码码率、量化参数值、跳过宏块数和运动矢量;所述优化策略确定单元,还用于:
47.若所述编码码率大于第一设定阈值,所述量化参数值大于第二设定阈值,所述跳过宏块数大于第三设定阈值,所述运动矢量小于第四设定阈值且所述运动矢量的方向随机,则确定所述目标视频帧对应的场景类型为静态复杂场景;
48.若所述编码码率大于第一设定阈值,所述量化参数值大于第二设定阈值,所述跳过宏块数大于第三设定阈值,在第一设定视频帧区域内,所述运动矢量大于第四设定阈值且所述运动矢量的方向满足第一设定条件,则确定所述目标视频帧对应的场景类型为局部运动场景;
49.若所述编码码率大于第一设定阈值,所述量化参数值大于第二设定阈值,所述跳过宏块数小于第三设定阈值,所述运动矢量大于第四设定阈值且所述运动矢量的方向相同,则确定所述目标视频帧对应的场景类型为整体运动场景;
50.若所述编码码率大于第一设定阈值,所述量化参数值大于第二设定阈值,所述跳过宏块数小于第三设定阈值,所述运动矢量小于第四设定阈值且所述运动矢量的方向随机,则确定所述目标视频帧对应的场景类型为整体噪声场景。
51.在一种可选的实施例中,所述编码信息包括编码码率、量化参数值和运动矢量;所述优化策略确定单元,还用于:
52.若所述编码码率小于第一设定阈值,所述量化参数值小于第二设定阈值,在第二设定视频帧区域内,所述运动矢量大于第四设定阈值且所述运动矢量的方向满足第二设定条件,则确定所述目标视频帧对应的场景类型为普通运动场景;
53.若所述编码码率小于第一设定阈值,所述量化参数值小于第二设定阈值,所述运动矢量小于第四设定阈值且所述运动矢量的方向随机,则确定所述目标视频帧对应的场景类型为普通静态场景。
54.在一种可选的实施例中,所述优化策略确定单元,还用于:
55.基于预设的场景类型与图像优化策略之间的对应关系,确定所述目标视频帧的场景类型对应的图像优化策略。
56.在一种可选的实施例中,所述优化策略确定单元,还用于:
57.若所述目标视频帧对应的场景类型为静态复杂场景,则所述图像优化策略为增加空域降噪强度和降低锐化强度;
58.若所述目标视频帧对应的场景类型为局部运动场景,则所述图像优化策略为增加时域降噪强度,提高对图像中的运动区域的锐化强度,以及降低对图像中的除运动区域以外的其他区域的锐化强度;
59.若所述目标视频帧对应的场景类型为整体运动场景,则所述图像优化策略为增加时域降噪强度和降低锐化强度;或者所述图像优化策略为提高编码码率;
60.若所述目标视频帧对应的场景类型为整体噪声场景,则所述图像优化策略为增加空域降噪强度;
61.若所述目标视频帧对应的场景类型为普通静态场景,则所述图像优化策略为减低空域降噪强度和提高锐化强度;
62.若所述目标视频帧对应的场景类型为普通运动场景,则所述图像优化策略为提高对目标宏块的锐化强度,其中目标宏块是所述目标视频帧中宏块面积小于设定面积阈值的宏块。
63.第三方面,本技术实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时,实现第一方面的图像处理方法。
64.第四方面,本技术实施例还提供了一种电子设备,包括存储器和处理器,所述存储器上存储有可在所述处理器上运行的计算机程序,当所述计算机程序被所述处理器执行时,使得所述处理器实现第一方面的图像处理方法。
65.第二方面至第四方面中任意一种实现方式所带来的技术效果可参见第一方面中对应的实现方式所带来的技术效果,此处不再赘述。
附图说明
66.为了更清楚地说明本技术实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简要介绍,显而易见地,下面描述中的附图仅仅是本技术的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
67.图1为本技术实施例提供的一种图像处理方法的流程图;
68.图2为本技术实施例提供的另一种图像处理方法的流程图;
69.图3为本技术实施例提供的一种图像处理装置的结构示意图;
70.图4为本技术实施例提供的一种电子设备的结构示意图。
具体实施方式
71.为了使本技术的目的、技术方案和优点更加清楚,下面将结合附图对本技术作进一步地详细描述,显然,所描述的实施例仅仅是本技术一部分实施例,而不是全部的实施例。基于本技术中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本技术保护的范围。
72.需要说明的是,本技术的文件中涉及的术语“包括”和“具有”以及它们的变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
73.下面将结合附图,对本技术实施例提供的技术方案进行详细说明。
74.本技术实施例提供了一种图像处理方法,如图1所示,包括如下步骤:
75.步骤s101,基于对目标视频帧进行编码得到的编码结果,获取目标视频帧对应的编码信息。
76.根据对目标视频帧进行编码后得到的编码结果,可以获取目标视频帧对应的编码信息。在对目标视频帧进行编码时,可以采用h.264或h.265编码。并且,无论是h.264还是h.265编码,都会把图像分割成块,在h.264中可以称之为宏块(macro block,mb),在h.265中可以称之为编码树单元(coding tree unit,ctu),为便于理解,以下均统称为宏块。
77.步骤s102,对编码信息进行分析,确定目标视频帧对应的场景类型,并根据场景类型,确定相应的图像优化策略。
78.在获取到目标视频帧对应的编码信息后,可以先将编码信息包括的多个类型的参数值与各类型对应的阈值进行比较,得到各类型对应的多个比较结果,然后基于多个比较结果,确定目标视频帧对应的场景类型。
79.具体地,编码信息中包括有编码码率、量化参数值、跳过宏块数和运动矢量。若编码码率大于第一设定阈值,量化参数值大于第二设定阈值,跳过宏块数大于第三设定阈值,运动矢量小于第四设定阈值且运动矢量的方向随机,则确定目标视频帧对应的场景类型为静态复杂场景。其中,在确定编码码率大于第一设定阈值,量化参数值大于第二设定阈值,跳过宏块数大于第三设定阈值后,还需要确定在目标视频帧中,有绝大部分的运动矢量小于第四设定阈值且该部分运动矢量的方向随机,才能确定目标视频帧对应的场景类型为静态复杂场景。
80.若编码码率大于第一设定阈值,量化参数值大于第二设定阈值,跳过宏块数大于第三设定阈值,在第一设定视频帧区域内,运动矢量大于第四设定阈值且运动矢量的方向满足第一设定条件,则确定目标视频帧对应的场景类型为局部运动场景。其中,第一设定视频帧区域可以是目标视频帧中的局部区域,且在局部区域内,运动矢量较集中,第一设定条件可以是在局部区域内,运动矢量的方向较一致。
81.若编码码率大于第一设定阈值,量化参数值大于第二设定阈值,跳过宏块数小于第三设定阈值,运动矢量大于第四设定阈值且运动矢量的方向相同,则确定目标视频帧对应的场景类型为整体运动场景。其中,在确定编码码率大于第一设定阈值,量化参数值大于第二设定阈值,跳过宏块数小于第三设定阈值后,还需要确定在目标视频帧中,有绝大部分的运动矢量大于第四设定阈值且该部分运动矢量的方向相同,才能确定目标视频帧对应的
场景类型为整体运动场景。
82.若编码码率大于第一设定阈值,量化参数值大于第二设定阈值,跳过宏块数小于第三设定阈值,运动矢量小于第四设定阈值且运动矢量的方向随机,则确定目标视频帧对应的场景类型为整体噪声场景。其中,在确定编码码率大于第一设定阈值,量化参数值大于第二设定阈值,跳过宏块数小于第三设定阈值后,还需要确定在目标视频帧中,有绝大部分的运动矢量小于第四设定阈值且该部分运动矢量的方向随机,才能确定目标视频帧对应的场景类型为整体噪声场景。
83.若编码码率小于第一设定阈值,量化参数值小于第二设定阈值,在第二设定视频帧区域内,运动矢量大于第四设定阈值且运动矢量的方向满足第二设定条件,则确定目标视频帧对应的场景类型为普通运动场景。其中,第二设定视频帧区域为目标视频帧中的局部区域,第二设定条件为在局部区域内运动矢量的方向基本一致。
84.若编码码率小于第一设定阈值,量化参数值小于第二设定阈值,运动矢量小于第四设定阈值且运动矢量的方向随机,则确定目标视频帧对应的场景类型为普通静态场景。其中,在确定编码码率小于第一设定阈值,量化参数值小于第二设定阈值后,还需要确定在目标视频帧中,有绝大部分的运动矢量小于第四设定阈值且该部分运动矢量的方向随机,才能确定目标视频帧对应的场景类型为普通静态场景。
85.在确定出目标视频帧对应的场景类型后,可以基于预设的场景类型与图像优化策略之间的对应关系,确定出目标视频帧的场景类型对应的图像优化策略。
86.具体地,若目标视频帧对应的场景类型为静态复杂场景,则图像优化策略可以为增加空域降噪强度和降低锐化强度。若目标视频帧对应的场景类型为局部运动场景,则图像优化策略可以为增加时域降噪强度,提高对图像中的运动区域的锐化强度,以及降低对图像中的除运动区域以外的其他区域的锐化强度。
87.若目标视频帧对应的场景类型为整体运动场景,则图像优化策略可以为增加时域降噪强度和降低锐化强度,或者图像优化策略可以为提高编码码率。若目标视频帧对应的场景类型为整体噪声场景,则图像优化策略可以为增加空域降噪强度。
88.若目标视频帧对应的场景类型为普通静态场景,则图像优化策略可以为减低空域降噪强度和提高锐化强度。若目标视频帧对应的场景类型为普通运动场景,则图像优化策略可以为提高对目标宏块的锐化强度,其中目标宏块是目标视频帧中宏块面积小于设定面积阈值的宏块。
89.步骤s103,根据图像优化策略,对目标视频帧之后的设定时间长度内的视频帧进行图像处理,并对图像处理后的设定时间长度内的视频帧进行编码。
90.基于视频数据的时间连续性,当前编码帧的统计信息和预测信息,对于后续短时间内的图像处理具有很可靠的参考意义。因此,在确定出相应的图像优化策略后,就可以根据图像优化策略,对目标视频帧之后的设定时间长度内的视频帧进行图像处理,并对图像处理后的设定时间长度内的视频帧进行编码。
91.根据对当前视频帧,即目标视频帧进行编码的编码结果,可以获取相应的编码信息,包括量化参数(quantization parameter,qp)值、跳过(skip)宏块数、运动矢量、宏块大小分布和编码码率,这些信息可以反映出当前视频帧的细节、运动区域、编码带宽压力等。由这些编码信息,分析出当前视频帧的画面内容类型,以及编码性能状态,反馈调节后续图
像降噪、图像增强参数,以此达到动态自适应消除编码马赛克并尽量保证图像细节清晰度的效果。
92.根据对编码信息,即qp值、skip宏块数、运动矢量、宏块大小分布和编码码率的分析,可以判定当前视频帧的当前画面状态。具体分析如下:
93.qp值与量化步长正相关,值越大,量化步长越大,编码效果也越差,一般在编码码率较大接近或者达到编码码率上限的时候,qp值会明显增大,或者在出现局部运动的场景下,会出现背景区域qp值明显变大的情况;
94.skip宏块表示跳过编码区域,出现时该宏块不单独编码,而使用匹配块直接填充,一般出现在视频运动小,qp较大的场景下。skip宏块数越多,表示当前场景运动较少,且编码压力较大,编码效果不佳,容易出现细节丢失和马赛克现象;
95.运动矢量表征了当前视频帧相对于前一视频帧的差异,当局部区域运动矢量较大时,表示画面中存在运动物体,值越大运动越剧烈;当画面整体运动矢量较均匀且方向一致时,表示当前画面整体运动,可能摄像机在转动;当画面整体运动矢量较均匀且方向比较无序,表示可能为噪声干扰或者树叶被风吹动等情况;
96.宏块大小分布和区域细节程度强相关,在细节较丰富的区域,编码器会划分更小的宏块以免损失细节,在较平坦区域,编码器会划分相对较大红外以降低编码数据量。
97.在一些实施例中,根据上述分析得到的编码规律,本技术实施例提供的图像方法还可以按照如图2所示的过程进行实现,如图2所示,包括如下步骤:
98.步骤s201,基于对目标视频帧进行编码得到的编码结果,获取目标视频帧对应的编码信息,包括编码码率、量化参数值、跳过宏块数和运动矢量。
99.步骤s202,确定编码码率是否大于第一设定阈值且量化参数值是否大于第二设定阈值;如果是,执行步骤s203;如果否,执行步骤s214。
100.步骤s203,确定跳过宏块数是否大于第三设定阈值;如果是,执行步骤s204;如果否,执行步骤s209。
101.步骤s204,确定运动矢量是否大于第四设定阈值;如果是,执行步骤s205;如果否,执行步骤s207。
102.步骤s205,确定目标视频帧对应的场景类型为局部运动场景。
103.当编码码率大于第一设定阈值,量化参数值大于第二设定阈值,跳过宏块数大于第三设定阈值,目标视频帧中的局部区域内运动矢量均大于第四设定阈值,且在局部区域内的运动矢量较为集中,以及局部区域内的运动矢量的方向较为一致时,可以确定目标视频帧对应的场景类型为局部运动场景。
104.步骤s206,图像优化策略为增加时域降噪强度,提高对图像中的运动区域的锐化强度,以及降低对图像中的除运动区域以外的其他区域的锐化强度。
105.步骤s207,确定目标视频帧对应的场景类型为静态复杂场景。
106.当编码码率大于第一设定阈值,量化参数值大于第二设定阈值,跳过宏块数大于第三设定阈值,目标视频帧中的绝大部分的运动矢量都小于第四设定阈值且该绝大部分的运动矢量的方向随机时,可以确定目标视频帧对应的场景类型为静态复杂场景。
107.步骤s208,图像优化策略为增加空域降噪强度和降低锐化强度。
108.步骤s209,确定运动矢量是否大于第四设定阈值;如果是,执行步骤s210;如果否,
执行步骤s212。
109.步骤s210,确定目标视频帧对应的场景类型为整体运动场景。
110.当编码码率大于第一设定阈值,量化参数值大于第二设定阈值,跳过宏块数小于第三设定阈值,目标视频帧中的绝大部分的运动矢量都大于第四设定阈值且该绝大部分的运动矢量的方向相同时,可以确定目标视频帧对应的场景类型为整体运动场景。
111.步骤s211,图像优化策略为增加时域降噪强度和降低锐化强度,或者图像优化策略为提高编码码率。
112.步骤s212,确定目标视频帧对应的场景类型为整体噪声场景。
113.当编码码率大于第一设定阈值,量化参数值大于第二设定阈值,跳过宏块数小于第三设定阈值,目标视频帧中的绝大部分的运动矢量都小于第四设定阈值且该绝大部分的运动矢量的方向随机时,可以确定目标视频帧对应的场景类型为整体噪声场景。
114.步骤s213,图像优化策略为增加空域降噪强度。
115.步骤s214,确定运动矢量是否大于第四设定阈值;如果是,执行步骤s215;如果否,执行步骤s217。
116.步骤s215,确定目标视频帧对应的场景类型为普通运动场景。
117.当编码码率小于第一设定阈值,量化参数值小于第二设定阈值,目标视频帧的局部区域内,运动矢量大于第四设定阈值且运动矢量的方向局部一致时,可以确定目标视频帧对应的场景类型为普通运动场景。
118.步骤s216,图像优化策略为提高对目标宏块的锐化强度,其中目标宏块是所述目标视频帧中宏块面积小于设定面积阈值的宏块。
119.步骤s217,确定目标视频帧对应的场景类型为普通静态场景。
120.当编码码率小于第一设定阈值,量化参数值小于第二设定阈值,目标视频帧中的绝大部分的运动矢量都小于第四设定阈值且该绝大部分的运动矢量的方向随机时,可以确定目标视频帧对应的场景类型为普通静态场景。
121.步骤s218,图像优化策略为减低空域降噪强度和提高锐化强度。
122.具体地,对目标视频帧进行编码后,可以得到相应的编码结果,根据该编码结果,可以获取到目标视频帧对应的编码信息。其中,编码信息中可以包括编码码率、量化参数值、跳过宏块数和运动矢量。
123.当编码码率较大,达到或者接近上限时,如果qp值较大,skip宏块数较多,则判定为静态复杂场景或者局部运动场景。
124.如果运动矢量较小且方向随机,则为静态复杂场景,可适当增加空域降噪(2d降噪)强度,降低锐化强度,从而降低整体编码压力,防止出现马赛克;
125.如果运动矢量局部较大,且方向较一致则为局部运动场景,可适当增加时域降噪(3d降噪)强度,减少运动噪声带来的编码压力,从而降低编码码率。更进一步,可以对运动区域局部提高清晰度,而对其他区域降低清晰度,达到在有限的编码带宽下优先保证重点目标细节,但同时背景区域又不至于出现严重马赛克现象影响主观感受的目的。
126.当编码码率较大,达到或者接近上限时,如果qp值较大,skip宏块数很少,则为整体运动或者噪声较严重场景。
127.如果整体运动矢量方向和大小一致,则为画面整体运动,这种情况下必然会导致
大量马赛克现象,这种情况较常见于可转动的摄像机,如安防摄像头中的云台机、球机等,以及便携式相机如手机。靠微调降噪基本作用不大,对于编码码率控制要求较高的产品可以较大幅加强降噪、降低锐化,压低细节来尽量减少马赛克,对于图像质量要求更高的产品可以提高编码码率来保证图像质量;
128.如果大小方向较随机无序,则为噪声或者画面内物体例如树叶扰动等,可以提高时域降噪(3d降噪)强度,减少扰动带来的编码压力。
129.当编码码率较低,qp值较小时,说明当前编码压力小,性能富余,此时可以适当提高锐化强度以加强细节,提高清晰度。
130.如果运动矢量局部较大且方向一致,则为一般局部运动场景,针对小宏块区域加大图像锐化,提升重点目标区域细节;
131.如果运动矢量分散随机,则为一般静态场景,全局适当减低降噪强度,提升锐化强度,提升整体清晰度。
132.本技术提供的图像处理方法,可以基于对目标视频帧进行编码得到的编码结果,获取目标视频帧对应的编码信息,并对编码信息进行分析,确定出目标视频帧对应的场景类型,从而可以根据获得的场景类型,确定出相应的图像优化策略,来对目标视频帧之后的设定时间长度内的视频帧进行图像处理,并对图像处理后的设定时间长度内的视频帧进行编码。在基本不额外增加性能消耗的前提下,对图像降噪、图像增强和编码策略进行综合评估,选择最佳效果,平衡图像效果和编码码率要求。
133.相比与相关技术,本技术提供的图像处理方法具有以下优点:
134.1、可以对编码后的数据进行分析,只要是符合h264/265标准或类似协议的编码数据都可以,不依赖于编码器的实现,适用于编码器完全封闭的产品,通用性强。
135.2、根据编码结果分析当前的视频场景类型,根据qp分布、编码skip宏块分布、运动矢量分布、宏块大小分布信息和当前编码码率等多种信息,进行精细化精准分类,并针对性的进行图像2d降噪、3d降噪、图像增强、编码码率调整等处理。
136.3、根据编码信息进行全局、局部分析,判定全局或者局部运动特点,针对性地对图像进行优化。
137.4、几乎不增加计算资源消耗,可用于性能紧张的设备产品。
138.与图1所示的图像处理方法基于同一发明构思,本技术实施例中还提供了一种图像处理装置。由于该装置是本技术图像处理方法对应的装置,并且该装置解决问题的原理与该方法相似,因此该装置的实施可以参见上述方法的实施,重复之处不再赘述。
139.图3示出了本技术实施例提供的一种图像处理装置的结构示意图,如图3所示,该图像处理装置包括编码信息获取单元301、优化策略确定单元302和视频编码单元303。
140.其中,编码信息获取单元301,用于基于对目标视频帧进行编码得到的编码结果,获取目标视频帧对应的编码信息;
141.优化策略确定单元302,用于对编码信息进行分析,确定目标视频帧对应的场景类型,并根据场景类型,确定相应的图像优化策略;
142.视频编码单元303,用于根据图像优化策略,对目标视频帧之后的设定时间长度内的视频帧进行图像处理,并对图像处理后的设定时间长度内的视频帧进行编码。
143.在一种可选的实施例中,优化策略确定单元302,具体用于:
144.将编码信息包括的多个类型的参数值与各类型对应的阈值进行比较,得到各类型对应的多个比较结果;
145.基于多个比较结果,确定目标视频帧对应的场景类型。
146.在一种可选的实施例中,编码信息包括编码码率、量化参数值、跳过宏块数和运动矢量;优化策略确定单元302,还用于:
147.若编码码率大于第一设定阈值,量化参数值大于第二设定阈值,跳过宏块数大于第三设定阈值,运动矢量小于第四设定阈值且运动矢量的方向随机,则确定目标视频帧对应的场景类型为静态复杂场景;
148.若编码码率大于第一设定阈值,量化参数值大于第二设定阈值,跳过宏块数大于第三设定阈值,在第一设定视频帧区域内,运动矢量大于第四设定阈值且运动矢量的方向满足第一设定条件,则确定目标视频帧对应的场景类型为局部运动场景;
149.若编码码率大于第一设定阈值,量化参数值大于第二设定阈值,跳过宏块数小于第三设定阈值,运动矢量大于第四设定阈值且运动矢量的方向相同,则确定目标视频帧对应的场景类型为整体运动场景;
150.若编码码率大于第一设定阈值,量化参数值大于第二设定阈值,跳过宏块数小于第三设定阈值,运动矢量小于第四设定阈值且运动矢量的方向随机,则确定目标视频帧对应的场景类型为整体噪声场景。
151.在一种可选的实施例中,编码信息包括编码码率、量化参数值和运动矢量;优化策略确定单元302,还用于:
152.若编码码率小于第一设定阈值,量化参数值小于第二设定阈值,在第二设定视频帧区域内,运动矢量大于第四设定阈值且运动矢量的方向满足第二设定条件,则确定目标视频帧对应的场景类型为普通运动场景;
153.若编码码率小于第一设定阈值,量化参数值小于第二设定阈值,运动矢量小于第四设定阈值且运动矢量的方向随机,则确定目标视频帧对应的场景类型为普通静态场景。
154.在一种可选的实施例中,优化策略确定单元302,还用于:
155.基于预设的场景类型与图像优化策略之间的对应关系,确定目标视频帧的场景类型对应的图像优化策略。
156.在一种可选的实施例中,优化策略确定单元302,还用于:
157.若目标视频帧对应的场景类型为静态复杂场景,则图像优化策略为增加空域降噪强度和降低锐化强度;
158.若目标视频帧对应的场景类型为局部运动场景,则图像优化策略为增加时域降噪强度,提高对图像中的运动区域的锐化强度,以及降低对图像中的除运动区域以外的其他区域的锐化强度;
159.若目标视频帧对应的场景类型为整体运动场景,则图像优化策略为增加时域降噪强度和降低锐化强度;或者图像优化策略为提高编码码率;
160.若目标视频帧对应的场景类型为整体噪声场景,则图像优化策略为增加空域降噪强度;
161.若目标视频帧对应的场景类型为普通静态场景,则图像优化策略为减低空域降噪强度和提高锐化强度;
162.若目标视频帧对应的场景类型为普通运动场景,则图像优化策略为提高对目标宏块的锐化强度,其中目标宏块是目标视频帧中宏块面积小于设定面积阈值的宏块。
163.与上述方法实施例基于同一发明构思,本技术实施例中还提供了一种电子设备。该电子设备可以用于对视频帧进行图像处理。在一种实施例中,该电子设备可以是服务器,也可以是终端设备或其他电子设备。在该实施例中,电子设备的结构可以如图4所示,包括存储器401,通讯模块403以及一个或多个处理器402。
164.存储器401,用于存储处理器402执行的计算机程序。存储器401可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统,以及运行即时通讯功能所需的程序等;存储数据区可存储各种即时通讯信息和操作指令集等。
165.存储器401可以是易失性存储器(volatile memory),例如随机存取存储器(random-access memory,ram);存储器401也可以是非易失性存储器(non-volatile memory),例如只读存储器,快闪存储器(flash memory),硬盘(hard disk drive,hdd)或固态硬盘(solid-state drive,ssd)、或者存储器401是能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质,但不限于此。存储器401可以是上述存储器的组合。
166.处理器402,可以包括一个或多个中央处理单元(central processing unit,cpu)或者为数字处理单元等等。处理器402,用于调用存储器401中存储的计算机程序时实现上述图像处理方法。
167.通讯模块403用于与终端设备和其他服务器进行通信。
168.本技术实施例中不限定上述存储器401、通讯模块403和处理器402之间的具体连接介质。本公开实施例在图4中以存储器401和处理器402之间通过总线404连接,总线404在图4中以粗线表示,其它部件之间的连接方式,仅是进行示意性说明,并不引以为限。总线404可以分为地址总线、数据总线、控制总线等。为便于表示,图4中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
169.根据本技术的一个方面,提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述实施例中的图像处理方法。
170.程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。
171.以上所述,仅为本技术的具体实施方式,但本技术的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本技术揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本技术的保护范围之内。
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献