一种数据处理方法、装置、计算机设备和存储介质与流程

技术特征：
1.一种数据处理方法，其特征在于，包括：确定目标视频帧中的目标编码单元，采用帧内预测方式确定所述目标编码单元的预测方向；根据所述预测方向确定所述目标编码单元的候选几何划分方向；所述候选几何划分方向至少包括一个几何划分方向；获取所述候选几何划分方向中每个几何划分方向的率失真代价，根据所述率失真代价确定所述目标编码单元的目标几何划分方向；所述目标几何划分方向用于将所述目标编码单元划分为两个编码单元子块，以使所述两个编码单元子块分别采用不同的编码参数进行编码。2.根据权利要求1所述的方法，其特征在于，所述确定目标视频帧中的目标编码单元，采用帧内预测方式确定所述目标编码单元的预测方向，包括：确定目标视频帧中的目标编码单元，根据所述目标编码单元相邻的编码单元确定目标编码单元对应的参考像素；从帧内预测方向集合中确定目标帧内预测方向，所述帧内预测方向集合中包括至少一个帧内预测方向；根据所述参考像素和所述目标帧内预测方向，获取所述目标编码单元在所述目标帧内预测方向上的像素预测值；根据所述像素预测值获取所述目标编码单元在所述目标帧内预测方向上的率失真代价，根据所述目标编码单元在每个帧内预测方向上的率失真代价，确定目标编码单元的预测方向。3.根据权利要求2所述的方法，其特征在于，所述根据所述参考像素和所述目标帧内预测方向，获取所述目标编码单元在所述目标帧内预测方向上的像素预测值，包括：获取所述目标编码单元中的目标像素，所述目标像素为目标编码单元中任意一个像素，确定所述目标像素的像素坐标；确定所述像素坐标在所述目标帧内预测方向对应的目标参考像素，所述目标参考像素属于所述参考像素；将所述目标参考像素确定为所述目标像素的像素预测值，获取所述目标编码单元中的每个像素对应的像素预测值，将所述每个像素对应的像素预测值确定为所述目标编码单元在所述目标帧内预测方向上的像素预测值。4.根据权利要求2所述的方法，其特征在于，所述根据所述像素预测值获取在所述目标帧内预测方向上所述目标编码单元的率失真代价，根据所述目标编码单元在每个帧内预测方向上的率失真代价，确定目标编码单元的预测方向，包括：获取所述目标编码单元的像素真实值，根据所述像素预测值和所述像素真实值确定每个像素对应的像素残差，将所述像素残差进行变换量化生成在所述目标帧内预测方向上的率失真代价；确定所述目标编码单元在所述帧内预测方向集合中每个帧内预测方向上的率失真代价，将最小的率失真代价对应的帧内预测方向确定为所述目标编码单元的预测方向。5.根据权利要求1所述的方法，其特征在于，所述根据所述预测方向确定所述目标编码单元的候选几何划分方向，包括：
获取所述预测方向与几何划分方向的对应关系，根据所述对应关系，确定所述预测方向对应的几何划分方向；根据所述几何划分方向确定所述目标编码单元的候选几何划分方向。6.根据权利要求1所述的方法，其特征在于，所述获取所述候选几何划分方向中每个几何划分方向的率失真代价，根据所述率失真代价确定所述目标编码单元的目标几何划分方向，包括：从所述候选几何划分方向中确定待处理几何划分方向，采用所述待处理几何划分方向将所述目标编码单元划分为两个编码单元子块，所述待处理几何划分方向为所述候选几何划分方向中任意一个几何划分方向；确定所述编码单元子块对应的参考帧，根据所述参考帧确定所述编码单元子块的像素预测值；根据所述两个编码单元子块的像素预测值确定所述目标编码单元在所述待处理几何划分方向上的像素预测值；根据所述像素预测值获取所述目标编码单元在所述待处理几何划分方向上的率失真代价，根据所述目标编码单元在每个几何划分方向上的率失真代价，确定目标编码单元的目标几何划分方向。7.根据权利要求6所述的方法，其特征在于，所述根据所述像素预测值获取所述目标编码单元在所述待处理几何划分方向上的率失真代价，根据所述目标编码单元在每个几何划分方向上的率失真代价，确定目标编码单元的目标几何划分方向，包括：获取所述目标编码单元的像素真实值，根据所述像素预测值和所述像素真实值确定每个像素对应的像素残差，将所述像素残差进行变换量化生成在所述待处理几何划分方向上的率失真代价；确定所述目标编码单元在所述候选几何划分方向中每个几何划分方向上的率失真代价，将最小的率失真代价对应的几何划分方向确定为所述目标编码单元的目标几何划分方向。8.根据权利要求1所述的方法，其特征在于，还包括：获取所述目标编码单元在所述目标几何划分方向对应的输出模式信息和运动矢量；所述运动矢量用于从参考帧中获取目标编码单元的像素预测值；将所述输出模式信息和运动矢量进行输出。9.一种数据处理装置，其特征在于，包括：预测方向确定单元，用于确定目标视频帧中的目标编码单元，采用帧内预测方式确定所述目标编码单元的预测方向；候选方向确定单元，用于根据所述预测方向确定所述目标编码单元的候选几何划分方向；所述候选几何划分方向至少包括一个几何划分方向；目标方向确定单元，用于获取所述候选几何划分方向中每个几何划分方向的率失真代价，根据所述率失真代价确定所述目标编码单元的目标几何划分方向；所述目标几何划分方向用于将所述目标编码单元划分为两个编码单元子块，以使所述两个编码单元子块分别采用不同的编码参数进行编码。10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有计算机
程序，所述计算机程序适于由处理器加载并执行权利要求1-8任意一项所述的方法。11.一种计算机设备，其特征在于，其特征在于，包括：处理器和存储器；其中，所述存储器存储有计算机程序，所述计算机程序适于由所述处理器加载并执行权利要求1-8任意一项所述的方法。

技术总结
本申请实施例公开一种数据处理方法、装置、计算机设备和存储介质，其中方法包括如下步骤：确定目标视频帧中的目标编码单元，采用帧内预测方式确定所述目标编码单元的预测方向；根据所述预测方向确定所述目标编码单元的候选几何划分方向；所述候选几何划分方向至少包括一个几何划分方向；获取所述候选几何划分方向中每个几何划分方向的率失真代价，根据所述率失真代价确定所述目标编码单元的目标几何划分方向；所述目标几何划分方向用于将所述目标编码单元划分为两个编码单元子块，以使所述两个编码单元子块分别采用不同的编码参数进行编码。采用本申请，可以降低计算复杂度，提高视频编码的效率。高视频编码的效率。高视频编码的效率。


技术研发人员：ꢀ(74)专利代理机构
受保护的技术使用者：中科寒武纪科技股份有限公司
技术研发日：2020.12.31
技术公布日：2022/7/1