一种跳过大尺寸CU的Intra模式选择方法与流程

一种跳过大尺寸cu的intra模式选择方法
技术领域
1.本发明涉及视频处理技术，尤其涉及了应用于应用于vvc编码器i帧中的一种跳过大尺寸cu的intra模式选择方法。


背景技术：

2.mpeg组织在2020年发表的最新视频压缩标准vvc中，为了提高压缩效率，支持多种划分模式，由hevc中的一种增加到五种，但同时导致编码一个宽为128、高为128的块需要遍历几百万个cu编码单元，并且intra模式帧内编码模式增加到了67种模式，这严重增加了编码时间，编一个i帧宽为1920、高为1080的图像需要几个分钟，对于实时编码的场景，比如说收录系统，是无法接受的。
3.例如现有技术中，专利申请号为：cn201711481714.9；专利名称为，hevc帧内cu划分和pu预测模式选择方法及系统。其计算直方图、获得纹理强度、复杂度都需要额外计算量，针对大cu cu编码单元计算量大。


技术实现要素：

4.本发明针对现有技术中的intra模式选择，其计算量大，编码时间长的问题，提供了一种跳过大尺寸cu的intra模式选择方法和系统。
5.为了解决上述技术问题，本发明通过下述技术方案得以解决：
6.一种跳过大尺寸cu的intra模式选择方法，应用于vvc编码器i帧中，其方法包括：
7.s1，对cu的高或者宽进行判断，当其高或者宽大于64，则执行s3，否则执行s2；
8.s2，对cu的高或者宽进行判断，当其高或者宽大于32，且qp小于第一qp阈值；则执行s3，否则执行s6；
9.s3，计算cu像素间的方差值var；并对方差值进行判断，当var小于方差阈值varthr；则执行s4，否则执行s11；
10.s4，对cu进行至少3个方向预测，并依据每个方向预测的预测值及每个像素值确定每个方向的sad值，将每个方向的sad值放入sad列表中，确定最小预测值为minsad1；
11.s5，对最小值minsad1的判断，当最小值minsad1小于第一阈值sad64thr，则执行s12，否则执行s11；
12.s6，对cu的高或者宽进行判断，当其高或者宽大于32，则执行s7，否则执行s12；
13.s7，对cu进行至少3个方向预测，并依据每个方向预测的预测值及每个像素值确定每个方向的sad值，将每个方向的sad值放入sad列表中，，确定最小预测值为minsad2；
14.s8，对最小值minsad2的判断，当最小值minsad2小于第二阈值sad32thr，则执行s9，否则执行s11；
15.s9，对当前的qp值进行判断，当qp值小于第二qp阈值，则执行s10，否则执行s14；
16.s10，对cu进行planar模式预测，并计算planar模式下的预测值和cu像素值的sad值planarsad，把planarsad放入sad列表中，求出最小值minsad3；minsad3小于第三阈值
sad32thr2，则跳到s14；否则执行s11；
17.s11，对cu进行只做qt模式划分，则cu的intra模式选择结束；
18.s12，对cu进行其他intra模式预测，并计算该预测模式下的预测值和cu像素值的sad，把预测值放入sad列表中；
19.s13、判断是否存在intra模式没有进行预测的，存在则跳到s12；否则执行s14；
20.s14、将sad列表中的所有sad值，按照从小到大排列，取前面n个intra模式，选择出一个最佳intra模式作为这个cu的模式选择结果并且cu将有标准规定的多种子cu划分模式，完成整个cu的intra模式选择。
21.作为优选，s3，计算cu像素间的方差值var，通过公式1计算方差值的计算；
[0022][0023]
公式中，i为像素个数；n为总的像素值，xi为第i个像素值。
[0024]
作为优选，s4，对cu进行至少3个方向预测，3个方向分别为dc模式、垂直模式和水平模式预测，通过公式计算dc模式的sad值dcsad1、垂直模式的sad值horsad1和水平模式的sad值versad1；
[0025][0026][0027][0028]
其中，hvaluei为第i个垂直模式的预测值，vvaluei为第i个水平模式的预测值，dcvaluei为第i个dc模式的预测值，xi为第i个cu的像素值
[0029]
作为优选，s7，对cu进行至少3个方向预测，计算dc模式的第二预测值dcsad2、垂直模式的第二预测值horsad2和水平模式的第二预测值versad2；
[0030][0031][0032][0033]
作为优选，方差阈值varthr、第一阈值sad64thr、第二阈值sad32thr、第三阈值sad32thr2依据qp的值确定。
[0034]
作为优选，第一qp阈值为10；第二qp阈值为40。
[0035]
为了解决上述技术问题，本发明还提供了一种电子设备，其包括：至少一个处理器和存储器；所述存储器存储计算机执行指令；所述至少一个处理器执行所述存储器存储的计算机执行指令，使得所述至少一个处理器执行所述的一种跳过大尺寸cu的intra模式选择方法。
[0036]
为了解决上述技术问题，本发明还提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机执行指令，当处理器执行所述计算机执行指令时，实现所述的一种跳过大尺寸cu的intra模式选择方法。
[0037]
本发明由于采用了以上技术方案，具有显著的技术效果：
[0038]
一、本发明在不损失编码质量的同时，加快i帧的编码速度。。
[0039]
二、本发明在中高码率编码情况下，不降低压缩效率的情况下，vvc编码器中i帧的编码时间节省了15％左右，同时在低码率下，vvc编码器中i帧的编码时间节省了5％左右。
附图说明
[0040]
图1是本发明实施例1流程图。
[0041]
图2是本发明的流程图。
[0042]
图3是本发明实施例2的流程图。
[0043]
其中：
[0044]
cu是编码单元；
[0045]
i帧：intra-coded picture帧内编码图像帧；
[0046]
intra：帧内编码；
[0047]
vvc：versatile video coding,通用视频编码。
具体实施方式
[0048]
下面结合附图与实施例对本发明作进一步详细描述。
[0049]
实施例1
[0050]
现有技术中对于intra模式选择方法包括，
[0051]
步骤1，i帧一个cu的intra模式选择开始；
[0052]
步骤2，做当前一个intra模式的预测，
[0053]
步骤3，计算预测值和本cu像素值差值的sad，并放入一个sad的列表中；所有intra模式都完成了，完成则执行步骤4，否则返回步骤2；
[0054]
步骤4，将sad列表中的所有值，按照从小到大排列。取前面n个intra模式采用更精确计算量更多的方法，选择出一个最佳intra模式作为这个cu的模式选择结果，这个cu有标准规定的多种子cu划分模式，i帧一个cu的intra模式选择结束。
[0055]
实施例2
[0056]
与实施例1所不同的是本实施例提供了一种跳过大尺寸cu的intra模式选择方法，应用于vvc编码器i帧中，其方法包括：
[0057]
s1，对cu的高或者宽进行判断，当其高或者宽大于64，则执行s3，否则执行s2；
[0058]
s2，对cu的高或者宽进行判断，当其高或者宽大于32，且qp小于第一qp阈值；则执行s3，否则执行s6；
[0059]
s3，计算cu像素间的方差值var；并对方差值进行判断，当var小于方差阈值varthr；则执行s4，否则执行s11；
[0060]
s4，对cu进行至少3个方向预测，并依据每个方向预测的预测值及每个像素值确定每个方向的sad值，将每个方向的sad值放入sad列表中，确定最小预测值为minsad1；
[0061]
s5，对最小值minsad1的判断，当最小值minsad1小于第一阈值sad64thr，则执行s12，否则执行s11；
[0062]
s6，对cu的高或者宽进行判断，当其高或者宽大于32，则执行s7，否则执行s12；
[0063]
s7，对cu进行至少3个方向预测，并依据每个方向预测的预测值及每个像素值确定每个方向的sad值，将每个方向的sad值放入sad列表中，，确定最小预测值为minsad2；
[0064]
s8，对最小值minsad2的判断，当最小值minsad2小于第二阈值sad32thr，则执行s9，否则执行s11；
[0065]
s9，对当前的qp值进行判断，当qp值小于第二qp阈值，则执行s10，否则执行s14；
[0066]
s10，对cu进行planar模式预测，并计算planar模式下的预测值和cu像素值的sad值planarsad，把planarsad放入sad列表中，求出最小值minsad3；minsad3小于第三阈值sad32thr2，则跳到s14；否则执行s11；
[0067]
s11，对cu进行只做qt模式划分，则cu的intra模式选择结束；
[0068]
s12，对cu进行其他intra模式预测，并计算该预测模式下的预测值和cu像素值的sad，把预测值放入sad列表中；
[0069]
s13、判断是否存在intra模式没有进行预测的，存在则跳到s12；否则执行s14；
[0070]
s14、将sad列表中的所有sad值，按照从小到大排列，取前面n个intra模式，选择出一个最佳intra模式作为这个cu的模式选择结果并且cu将有标准规定的多种子cu划分模式，完成整个cu的intra模式选择。
[0071]
s3，计算cu像素间的方差值var，通过公式1计算方差值的计算；
[0072][0073]
公式中，i为像素个数；n为总的像素值，xi为第i个像素值。
[0074]
s4，对cu进行3个方向预测，3个方向分别为dc模式、垂直模式和水平模式预测，通过公式计算dc模式的sad值dcsad1、垂直模式的sad值horsad1和水平模式的sad值versad1；
[0075][0076][0077][0078]
其中，i为正整数，取1
…
n；hvaluei为第i个垂直模式的预测值，vvaluei为第i个水平模式的预测值，dcvaluei为第i个dc模式的预测值，xi为第i个cu的像素值
[0079]
s7，对cu进行3个方向预测，计算dc模式的第二预测值dcsad2、垂直模式的第二预测值horsad2和水平模式的第二预测值versad2；
[0080][0081][0082][0083]
方差阈值varthr、第一阈值sad64thr、第二阈值sad32thr、第三阈值sad32thr2依据qp的值确定。
[0084]
第一qp阈值为10；第二qp阈值为40。
[0085]
通过本实施例进行的intra模式选择，其计算量少，编码快。
[0086]
实施例3
[0087]
在实施例2基础上，与实施例2所不同的是本实施例将垂直模式预测换成与垂直相邻的任何一个方向预测，比如intra_angular49或ntra_angular51；将水平模式预测换成与水平相邻的任何一个方向预测，比如ntra_angular17或ntra_angular19。
[0088]
实施例4
[0089]
在上述实施例基础上，本实施例还提供了一种电子设备，其包括：至少一个处理器和存储器；所述存储器存储计算机执行指令；所述至少一个处理器执行所述存储器存储的计算机执行指令，使得所述至少一个处理器执行所述的一种跳过大尺寸cu的intra模式选择方法。
[0090]
实施例5
[0091]
在上述实施例基础上，本实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机执行指令，当处理器执行所述计算机执行指令时，实现所述的一种跳过大尺寸cu的intra模式选择方法。