一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

视觉信息展示方法、装置、计算机设备和存储介质与流程

2022-03-08 22:08:42 来源:中国专利 TAG:


1.本技术涉及计算机技术领域,特别是涉及一种视觉信息展示方法、装置、计算机设备和存储介质。


背景技术:

2.随着通信技术的发展,终端集成了越来越多的应用,比如,视频管理应用。基于视频管理应用,可以向用户展示终端中存储的多个视频,并且将存储的各个视频从头至尾向用户进行完整播放。由于终端中存储的视频包含有人脸信息,因此,用户可以在存储的视频中查找与某一特定人物相关的视频帧。
3.目前,主要是通过对存储于终端中的每个视频均进行完整地加速播放,从而用户能够在整个视频中查找与特定人物相关的视频帧。但是,从头至尾完整播放每个视频会导致视频浏览的效率低。


技术实现要素:

4.基于此,有必要针对上述技术问题,提供一种能够提升浏览效率的视觉信息展示方法、装置、计算机设备和存储介质。
5.一种视觉信息展示方法,所述方法包括:
6.获取多张人脸图像以及视频集;所述视频集中包括待展示视频帧;
7.分别对所述人脸图像以及所述视频集进行聚类,得到至少一个由人脸图像组成的人脸图像分组,以及至少一个由待展示视频帧组成的视频分组;
8.当检测到第一触发操作时,通过所述第一触发操作,从所述人脸图像分组中确定待展示人脸图像;
9.当检测到对所述第一触发操作指向的人脸图像中的人脸的第二触发操作时,基于所述第二触发操作,从所述视频分组中筛选出目标视频分组;
10.播放所述目标视频分组。
11.在其中一个实施例中,所述第一触发操作包括第一点击操作以及第二点击操作;所述通过所述第一触发操作,从所述人脸图像分组中确定待展示人脸图像包括:
12.当检测到针对所述人脸图像分组的第一点击操作时,从所述至少一个人脸图像分组中选择第一目标人脸图像分组;
13.确定所述第一目标人脸图像分组中的各人脸图像的排列顺序;
14.按照所述排列顺序展示所述第一目标人脸图像分组中的每张人脸图像;
15.当检测到对展示的所述人脸图像的第二点击操作时,展示所述第二点击操作所指向的人脸图像。
16.在其中一个实施例中,所述人脸图像分组包括属于同一人物的人脸图像;所述确定所述第一目标人脸图像分组中的各人脸图像的排列顺序包括:
17.确定所述第一目标人脸图像分组中的每张人脸图像均包含的同一人物的人脸,记
作聚类人脸;
18.确定所述每张人脸图像中的其它人脸与所述聚类人脸之间的相关性;
19.基于其它人脸与所述聚类人脸之间的相关性,确定每张人脸图像的相关性;
20.按照每张人脸图像的相关性,对所述第一目标人脸图像分组中的多张人脸图像进行排序。
21.在其中一个实施例中,所述确定所述每张人脸图像中的其它人脸与所述聚类人脸之间的相关性包括:
22.以所述聚类人脸为基准,确定每张人脸图像中的其它人脸与所述聚类人脸之间的拓扑关系图;所述拓扑关系图包含有至少一条边;所述拓扑关系图中的边与两张位于同一人脸图像中的人脸相连;
23.确定基于边相连接的两张不同人脸在各人脸图像中出现的频率次数;
24.基于所述频率次数,确定所述拓扑关系图中各边所对应的权重;
25.根据所述权重以及拓扑关系图中各人脸之间的连接关系,确定每张人脸图像中的其它人脸与所述聚类人脸之间的相关性。
26.在其中一个实施例中,所述播放所述目标视频分组中包括:
27.确定所述目标视频分组中的每帧待展示视频帧所属的视频,以及获取每帧待展示视频帧在所属的视频中的播放时间;
28.基于所述播放时间对属于同一视频中的待展示视频帧进行排序,得到至少一个中间序列结果;
29.按照预设的排序规则对全部中间序列结果进行排序,得到视频序列;
30.按照所述视频序列中的各待展示视频帧的排列顺序,播放所述视频序列。
31.在其中一个实施例中,所述按照所述视频序列中的各待展示视频帧的排列顺序,播放所述视频序列包括:
32.当检测到对当前播放的待展示视频帧的点击操作时,确定所述点击操作所指向的位置坐标;
33.基于所述位置坐标确定所述点击操作所属的位置区域;所述位置区域包括第一区域以及第二区域;
34.当所述点击操作属于第一区域时,基于所述视频序列中的各待展示视频帧的排列顺序,确定并播放与所述当前播放的待展示视频帧相邻,且位于当前播放的待展示视频帧之前的前一视频帧;
35.当所述点击操作属于第二区域时,基于所述视频序列中的各待展示视频帧的排列顺序,确定并播放与所述当前播放的待展示视频帧相邻,且位于当前播放的待展示视频帧之后的后一视频帧。
36.在其中一个实施例中,所述方法还包括:
37.当检测到对所述待展示视频帧中的人脸的点击操作时,根据所述点击操作,从所述至少一个人脸图像分组中筛选出第二目标人脸图像分组;
38.展示所述第二人脸图像分组。
39.一种视觉信息展示装置,所述装置包括:
40.聚类模块,用于获取多张人脸图像以及视频集;分别对所述人脸图像以及所述视
频集进行聚类,得到至少一个由人脸图像组成的人脸图像分组,以及至少一个由待展示视频帧组成的视频分组;
41.图像展示模块,用于当检测到第一触发操作时,通过所述第一触发操作,从所述人脸图像分组中确定待展示人脸图像;
42.视频展示模块,用于当检测到对所述第一触发操作指向的人脸图像中的人脸的第二触发操作时,基于所述第二触发操作,从所述视频分组中筛选出目标视频分组;播放所述目标视频分组。
43.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
44.获取多张人脸图像以及视频集;所述视频集中包括待展示视频帧;
45.分别对所述人脸图像以及所述视频集进行聚类,得到至少一个由人脸图像组成的人脸图像分组,以及至少一个由待展示视频帧组成的视频分组;
46.当检测到第一触发操作时,通过所述第一触发操作,从所述人脸图像分组中确定待展示人脸图像;
47.当检测到对所述第一触发操作指向的人脸图像中的人脸的第二触发操作时,基于所述第二触发操作,从所述视频分组中筛选出目标视频分组;
48.播放所述目标视频分组。
49.一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:
50.获取多张人脸图像以及视频集;所述视频集中包括待展示视频帧;
51.分别对所述人脸图像以及所述视频集进行聚类,得到至少一个由人脸图像组成的人脸图像分组,以及至少一个由待展示视频帧组成的视频分组;
52.当检测到第一触发操作时,通过所述第一触发操作,从所述人脸图像分组中确定待展示人脸图像;
53.当检测到对所述第一触发操作指向的人脸图像中的人脸的第二触发操作时,基于所述第二触发操作,从所述视频分组中筛选出目标视频分组;
54.播放所述目标视频分组。
55.上述视觉信息展示方法、装置、计算机设备和存储介质,通过获取多张人脸图像以及视频集,可以对人脸图像和视频集进行聚类,得到至少一个人脸图像分组以及至少一个视频分组;通过确定用户的触发操作,可以在检测到第一触发操作时,根据第一触发操作确定待展示人脸图像,在检测到对待展示人脸图像中的人脸的第二触发操作时,对应筛选出目标视频分组,并自动从待展示人脸图像的播放跳转至目标视频分组的播放。由于得用户可以以人脸图像中的人脸为基准,选择对应的视频分组,并对选择的视频分组进行浏览,即可快速查找到与特定的人物相关联的视频帧,相比于传统的需要完整浏览多个视频,本技术可以提升视频的浏览效率。
附图说明
56.图1为一个实施例中视觉信息展示方法的应用环境图;
57.图2为一个实施例中视觉信息展示方法的流程示意图;
58.图3为一个实施例中人脸图像分组的示意图;
59.图4为一个实施例中从图像播放跳转至视频播放的示意图;
60.图5为一个实施例中待展示人脸图像展示方法的示意图;
61.图6为一个实施例中拓扑关系图的示意图;
62.图7为一个实施例中从视频播放跳转至图像播放的示意图;
63.图8为一个实施例中视觉信息展示装置的结构框图;
64.图9为一个实施例中计算机设备的内部结构图。
具体实施方式
65.为了使本技术的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本技术进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本技术,并不用于限定本技术。
66.可以理解,本技术所使用的术语“第一”、“第二”等可在本文中用于描述各种对象,但这些对象不受这些术语限制。这些术语仅用于将第一个对象与另一个对象区分。举例来说,在不脱离本技术的范围的情况下,可以将第一触发操作称为第二触发操作,且类似地,可将第二触发操作称为第一触发操作。第一触发操作和第二触发操作两者都是触发操作,但其不是同一触发操作。
67.本技术提供的视觉信息展示方法,可以应用于如图1所示的应用环境中。终端102获取多张人脸图像以及视频集,并对获取多张人脸图像以及视频集进行聚类,得到的人脸图像分组,以及视频分组。终端根据用户的第一触发操作展示位于人脸图像分组中的待展示人脸图像,根据用户的第二触发操作确定并播放对应的目标视频分组。其中,终端102可以但不限于是各种个人计算机、笔记本电脑、智能手机、平板电脑和便携式可穿戴设备。
68.在一个实施例中,如图2所示,提供了一种视觉信息展示方法,以该方法应用于图1中的终端为例进行说明,包括以下步骤:
69.s202,获取多张人脸图像以及视频集。
70.其中,人脸图像是指包含有人脸的图像,同一人脸图像可以包含有多个人物的人脸。视频集中包括至少一个存储于终端中的视频。视频中的部分视频帧包含有至少一个人物的人脸。为了描述方便,下述将包含有人脸的视频帧称作待展示视频帧。
71.具体地,终端设备中可以设置有图像库以及视频库,图像库中存储有多个人物的人脸图像。视频库中预存储有多个视频。人脸图像可以基于终端中的图像采集应用采集而得,也可以基于网络下载而得。同理,视频可以基于终端中的视频采集应用采集而得,也可以基于网络下载而得。
72.在其中一个实施例中,终端基于预设的人脸检测算法对视频中的每个视频帧进行人脸检测,并基于人脸的清晰度、大小、角度、遮挡程度等方面的指标对视频帧中的人脸质量进行估算,将人脸质量大于预设质量阈值的视频帧判定为待展示视频帧。
73.s204,分别对人脸图像以及视频集进行聚类,得到至少一个由人脸图像组成的人脸图像分组,以及至少一个由待展示视频帧组成的视频分组。
74.其中,每个人脸图像分组包括属于同一人物的人脸图像。容易理解地,若同一人脸图像中包含有两张人脸,则该人脸图像会同时出现在两个人脸图像分组中。每个视频分组
包括属于同一人物的待展示视频帧。容易理解地,若同一待展示视频帧中包含有两张人脸,则该待展示视频帧会同时出现在两个视频分组中。
75.具体地,终端中预先设置有已训练完成的特征提取机器学习模型。特征提取机器学习模型可通过样本学习具备人脸特征提取能力。机器学习模型可采用神经网络模型、双路径网络模型(dpn,dualpathnetwork)、支持向量机或者逻辑回归模型等。终端将图像库中的全部人脸图像以及视频库中的全部待展示视频帧输入特征提取机器学习模型中,由特征提取机器学习模型提取人脸图像以及待展示视频帧中的人脸特征,并基于预设的聚类算法对人脸特征进行聚类,得到至少一个人脸人脸图像分组以及至少一个视频分组。其中,预设的聚类算法可以为dbscan(density-based spatial clustering of applications with noise)算法。其中,人脸特征是用于反映人员面部特征的数据。人脸特征可以反映出人员的性别、人脸的轮廓、发型、眼镜、鼻子、嘴以及各个脸部器官之间的距离等其中的一种或多种特征信息。
76.在一个实施例中,终端将图像库中的每张人脸图像作为一个类,并计算各类之间的距离,当两个类之间的距离小于预设的距离阈值时,将这两个类合并。其中,类与类之间的距离可以为两个类各自所包含的人脸图像之间的距离,两个人脸图像之间的距离可以根据两个人脸图像的图像信息(该图像信息例如为包含人脸特征、拍摄时间等信息的多维向量)来计算。终端重复上述计算各个类之间的距离的步骤以及后续的步骤,直到没有新的类产生。由此,就完成了对多张人脸图像的聚类操作,得到至少一个人脸图像分组。
77.一个实施例中,特征提取机器学习模型可以是已经训练完成的通用的具有特征提取能力的机器学习模型。在将通用的机器学习模型用于特定场景进行提取时效果不佳,因此需要通过专用于特定场景的样本对通用的机器学习模型进行进一步训练和优化。在本实施例中,终端可获取根据通用的机器学习模型的模型结构和模型参数,并将该模型参数导入特征提取机器学习模型结构,得到带有模型参数的特征提取机器学习模型。特征提取机器学习模型所带的模型参数,作为本实施例中训练特征提取机器学习模型的初始参数参与到训练中。
78.在一个实施例中,特征提取机器学习模型可以是由多层互相连接而形成的复杂网络模型。特征提取机器学习模型可包括多层特征提取层,每层特征提取层都有对应的模型参数,每层的模型参数可以是多个,每层特征提取层中的模型参数对输入的人脸进行线性或非线性变化,得到特征图(feature map)作为运算结果。每个特征提取层接收前一层的运算结果,经过自身的运算,对下一层输出本层的运算结果,直至最后一层特征提取层完成线性或非线性变化操作,根据最后一层特征提取层输出的结果,得到针对当前输入人脸图像或视频帧的人脸特征。其中,模型参数是模型结构中的各个参数,能反应模型各层输出和输入的对应关系。
79.在一个实施例中,人脸特征可包括面部纹理特征。面部纹理特征可反映面部器官,包括鼻子、耳朵、眉毛、脸颊或嘴唇等的像素点深度。面部纹理特征可以包括面部图像像素点的颜色值分布和亮度值分布。
80.s206,当检测到第一触发操作时,通过第一触发操作,从人脸图像分组中确定待展示人脸图像。
81.其中,触发操作是指用户对终端中所展示的内容的选择操作,触发操作包括但不
限于点击操作、划动操作、长按操作等。触发操作的具体操作方式可以根据需求自行设置,比如,可以在a情景下将触发操作的操作方式设置为点击操作,在b情景下将触发操作的操作方式设置为划动操作。
82.终端中的图像库展示界面中具有人物展示控件,当确定用户点击了人物展示控件时,终端获取基于上述聚类操作所生成的至少一个人脸图像分组,并如图3所示对应展示获取得到的人脸图像分组。图3为一个实施例中人脸图像分组的示意图。终端对用户的触发操作进行监控,当确定用户触发了针对人脸图像分组的第一触发操作时,基于第一触发操作,从至少一个人脸图像分组中确定第一目标人脸图像分组。比如,当确定用户点击了一个人脸图像分组时,将用户点击的人脸图像分组判定为第一目标人脸图像分组。终端获取第一目标人脸图像分组中的全部人脸图像,并向用户对应展示第一目标人脸图像分组中的全部人脸图像。当检测到用户再次触发了针对展示的人脸图像的第一触发操作时,终端获取第一触发操作所指向的人脸图像,将获取得到的人脸图像判定为待展示人脸图像,并向用户展示待展示人脸图像。比如,当确定用户点击了第一目标人脸图像分组中的一个人脸图像时,终端将用户的点击的人脸图像判定为待展示人脸图像,并向用户全屏展示待展示人脸图像。
83.在一个实施例中,当确定用户向左划动待展示人脸图像时,终端确定第一目标人脸图像分组中的各人脸图像的排列顺序,并基于排列顺序确定与待展示人脸图像相邻,且位于待展示人脸图像之后的后一待展示人脸图像,与此同时,终端展示后一待展示人脸图像。同理,当确定用户向右划动待展示人脸图像时,终端确定位于待展示人脸图像之前的前一待展示人脸图像,并展示前一待展示人脸图像。
84.s208,当检测到对待展示人脸图像中的人脸的第二触发操作时,基于所述第二触发操作,从视频分组中筛选出目标视频分组。
85.s210,播放目标视频分组。
86.具体地,终端识别待展示人脸图像内的人脸区域,当检测用户针对人脸区域的第二触发操作时,确定第二触发操作所指向的人脸。为了描述方便,下述将第二触发操作所指向的人脸称作视频人脸。比如,当检测到用户长按待展示人脸图像中的人脸时,将用户长按的人脸判定为视频人脸。
87.终端在获取视频人脸后,根据视频人脸的人脸特征,确定每张待展示视频帧中均包含有视频人脸的目标视频分组,之后播放目标视频分组中的各待展示视频帧。
88.由于可以将全部的视频分组和人脸图像分组看成一张网,视频分组或者人脸图像分组可以看成网中的节点,而任意两个节点之间都可以基于一条边相连接,因此,用户可以以任一节点为起始点,随着边浏览图像库和视频库中的内容。如此,不仅大大提升了用户的浏览效率,而且还可以提升浏览效果。
89.在一个实时例中,如图4所示,当确定用户长按视频人脸时,终端对应展示一个控件列表,控件列表中包含有慢放控件、延时控件以及视频控件。当确定用户点击慢放控件时,终端慢动作播放目标视频分组;当确定用户点击延时控件时,终端延时播放目标视频分组;当点击视频控件时,终端以标准播放速度播放目标视频分组。图4为一个实施例中,从图像播放跳转至视频播放的示意图。
90.容易理解地,也可以基于上述方法将存储于终端中的动图进行聚类,得到动图分
组,从而后续可以从待展示人脸图像跳转至一个动图分组,或者从待展示视频帧跳转至一个动图分组。
91.上述视觉信息展示方法中,通过获取多张人脸图像以及视频集,可以对人脸图像和视频集进行聚类,得到至少一个人脸图像分组以及至少一个视频分组;通过确定用户的触发操作,可以在检测到第一触发操作时,根据第一触发操作确定待展示人脸图像,在检测到对待展示人脸图像中的人脸的第二触发操作时,对应筛选出目标视频分组,并自动从待展示人脸图像的播放跳转至目标视频分组的播放。由于得用户可以以人脸图像中的人脸为基准,选择对应的视频分组,并对选择的视频分组进行浏览,即可快速查找到与特定的人物相关联的视频帧,相比于传统的需要完整浏览多个视频,本技术可以提升视频的浏览效率。
92.此外,由于仅仅只需要进行简单的触发操作,即可从图像播放快速转变为视频播放,相比于传统的需要先退出图像播放,再进入视频库进行视频播放,本技术不仅提升了跳转效率,而且增加了跳转灵活度,从而增强了用户体验。
93.在一个实施例中,如图5所示,通过所述第一触发操作,从所述人脸图像分组中确定待展示人脸图像包括:
94.s502,当检测到针对人脸图像分组的第一点击操作时,基于第一点击操作,从至少一个人脸图像分组中筛选出第一目标人脸图像分组。
95.s504,确定第一目标人脸图像分组中的各人脸图像的排列顺序。
96.s506,按照排列顺序展示第一目标人脸图像分组中的每张人脸图像。
97.s508,当检测到对展示的人脸图像的第二点击操作时,展示第二点击操作所指向的人脸图像。
98.具体地,当终端确定对展示的人脸图像分组的第一点击操作时,基于第一点击操作确定第一目标人脸图像分组。终端获取第一目标人脸图像分组中的全部人脸图像,并基于预设的排列规则对人脸图像进行排序,得到人脸图像序列。终端按照人脸图像序列中各人脸图像的排列顺序,对应展示人脸图像。当确定用户针对展示的人脸图像的第二点击操作时,终端将第二点击操作所指向的人脸图像判定为待展示人脸图像,与此同时,终端全屏展示待展示人脸图像。
99.本实施例中,用户只需进行简单的点击操作,即可观看到全屏展示的待展示人脸图像,如此,可以大大提升用户的用户体验。
100.在一个实施例中,确定第一目标人脸图像分组中的各人脸图像的排列顺序包括:确定第一目标人脸图像分组中的每张人脸图像均包含的同一人物的人脸,记作聚类人脸;确定每张人脸图像中的其它人脸与聚类人脸之间的相关性;基于其它人脸与聚类人脸之间的相关性,确定每张人脸图像的相关性;按照每张人脸图像的相关性,对第一目标人脸图像分组中的多张人脸图像进行排序。
101.其中,其它人脸是指位于人脸图像中的,除聚类人脸所对应的人物之外的其它人物的人脸。
102.具体地,终端获取各人脸图像中的每张人脸的人脸特征,并对各人脸特征进行相似度匹配,基于匹配结果确定第一目标人脸图像分组中的每张人脸图像均包含的同一人脸。为了描述方便,下述将第一目标人脸图像分组中的每张人脸图像均包含的同一人脸称作聚类人脸。终端确定每张人脸图像中的其它人脸与聚类人脸之间的相关性,并将同一人
脸图像中的不同人脸的相关性进行线性叠加,得到该人脸图像的相关性。终端按照人脸图像的相关性,从高至低对第一目标人脸图像中的各人脸图像进行排序,从而可以将相关性最高的人脸图像排序至队首,将相关性最低人脸图像排序至队尾。当第一目标人脸图像分组人脸图像的相关性相同时,终端对具有相同相关性的人脸图像进行随机排序。
103.比如,第一目标人脸图像分组中包含有三张人脸图像,分别为第一人脸图像、第二人脸图像以及第三人脸图像。第一人脸图像中包含有三张不同的人脸,分别为人脸1、人脸2以及人脸3;第二人脸图像中包含有四张不同的人脸,分别为人脸1、人脸2、人脸4以及人脸5;第三人脸图像中包含有三张不同的人脸,分别为人脸1以及人脸3。其中,人脸1为聚类人脸。当人脸2与人脸1之间的相关性为2、人脸3与人脸1之间的相关性为2、人脸4与人脸1之间的相关性为1、人脸5与人脸1之间的相关性为1时,第一人脸图像的相关性即为2 2=4;第二人脸图像的相关性即为2 1 1=4;第三人脸图像的相关性即为2。
104.本实施例中,由于人脸图像的相关性是对各人脸的相关性进行叠加而得,使得人脸图像的相关性更为准确,并且通过优先展示相关性高的人脸图像,不仅可以提升浏览效率,而且可以提升用户体验。
105.在一个实施例中,确定每张人脸图像中的其它人脸与聚类人脸之间的相关性包括:以聚类人脸为基准,确定每张人脸图像中的其它人脸与聚类人脸之间的拓扑关系图;拓扑关系图包含有至少一条边;拓扑关系图中的边与两张位于同一人脸图像中的人脸相连;确定基于边相连接的两张不同人脸在各人脸图像中出现的频率次数;基于频率次数,确定拓扑关系图中各边所对应的权重;根据权重以及拓扑关系图中各人脸之间的连接关系,确定每张人脸图像中的其它人脸与聚类人脸之间的相关性。
106.具体地,终端获取第一目标人脸图像分组中的一张人脸图像,并确定获取得到的人脸图像中的不同人脸。终端以聚类人脸为基准,将获取得到的人脸图像中的不同人脸以一条边相连接,如此,终端重复上述以边连接两张不同人脸的步骤,直到遍历完第一目标人脸图像分组中的全部人脸图像。由此,就完成生成拓扑关系图的操作,得到如图6所示的拓扑关系图。图6为一个实施例中拓扑关系图的示意图。
107.进一步地,终端确定基于边相连接的两张不同人脸在同一人脸图像中出现的频率次数,将频率次数确定为对应边的权重值。比如,在上述举例中,当第一人脸图像中包含人脸1、人脸2以及人脸3;第二人脸图像中包含人脸1、人脸2、人脸4以及人脸5;第三人脸图像中包含人脸1以及人脸3时,以边相连接的人脸1以及人脸2同时出现在第一人脸图像中以及第二人脸图像中,此时,将人脸1以及人脸2相连接的边的权重值即为2。
108.进一步地,终端获取预设的相关性计算算法,根据权重、拓扑关系图中各人脸之间的连接关系以及相关性计算算法确定各人脸与聚类人脸之间的相关性。其中,相关性计算算法可以为:人脸k与聚类人脸之间的相关性=(聚类人脸至人脸k之间所有边的权重的叠加最大值)/(聚类人脸至人脸k之间的边的数量值的平方)。比如,在上述举例中,当拓扑关系图如图5所示时,当需要计算人脸2与聚类人脸(人脸1)之间的相关性时,终端基于拓扑关系图确定人脸1与人脸2之间仅具有一条联通路径,且路径由一条边将人脸1与人脸2相连接,该边的权重值为2,此时终端将2(连接人脸1以及人脸2之间的边的权重值)除以1(人脸1与人脸2之间的边的数量的平方值),得到人脸1与人脸2之间相关性2。
109.容易理解的是,当人脸k与聚类人脸之间具有多条路径时,终端分别对多条路径中
所包含的边的权重值进行叠加,得到多个叠加结果。终端确定叠加结果最大的目标路径,并计算目标路径中所包含的边的数量,之后,基于上述相关性计算算法计算人脸k与聚类人脸之间的相关性。
110.本实施例中,通过生成拓扑关系图,以及确定拓扑关系图中各边的权重值,可以基于权重值以及拓扑关系图中各人脸之间的连接关系,确定每张人脸图像中的其它人脸与聚类人脸之间的相关性,从而可以为与聚类人脸直接相关的人脸赋予更高的相关性,为与待展示人脸图像之间相关的人脸赋予相对较低的相关性,进而使得后续可以优先展示相关性更高的人脸,如此,大大提升了用户体验。
111.在一个实施例中,播放目标视频分组中包括:确定目标视频分组中的每帧待展示视频帧所属的视频,以及获取每帧待展示视频帧在所属的视频中的播放时间;基于播放时间对属于同一视频中的待展示视频帧进行排序,得到至少一个中间序列结果;按照预设的排序规则对全部中间序列结果进行排序,得到视频序列;按照视频序列中的各待展示视频帧的排列顺序,播放视频序列。
112.其中,待展示视频帧的播放时间是指以视频中的第一帧为起始时间,按照标准播放速度进行播放至待展示视频帧时所消耗的时长。
113.具体地,当终端从视频中抽取出待展示视频帧时,终端确定视频的视频标识,以及待播放视频帧在视频中的播放时间,并将视频标识以及播放时间内嵌于待展示视频帧中。当终端获取得到目标视频分组时,终端基于内嵌于待展示视频帧中的视频标识,确定每帧待展示视频帧所属的视频,以及基于内嵌于待展示视频帧中的播放时间,对属于同一视频的待展示视频帧进行排序,得到至少一个中间序列结果。比如,当待展示视频帧a以及待展示视频帧b属于视频a,并且待展示视频帧a的播放时间为10分钟、待展示视频帧b的播放时间为11分钟;待展示视频帧c以及待展示视频帧d属于视频b,待展示视频帧c的播放时间为2分钟、待展示视频帧b的播放时间为7分钟时,终端基于播放时间对待展示视频帧a以及待展示视频帧b进行排序,得到ab的中间序列结果;基于播放时间对待展示视频帧c以及待展示视频帧d进行排序,得到cd的中间序列结果。
114.进一步地,终端基于预设的排序规则对生成的全部中间序列结果进行排序,得到视频序列,并按照视频序列中的各待展示视频帧的排列顺序,播放视频序列。
115.在其中一个实施例中,终端可以基于上述相关性计算算法确定各待展示视频帧的相关性,并对处于同一中间序列结果中的待展示视频帧的相关性进行叠加,得到中间序列结果的相关性。终端按照中间序列结果的相关性对各中间序列结果进行排序,得到视频序列。
116.本实施例中,通过播放包含有同一人脸的视频帧序列,使得用户可以快速浏览视频中的目标内容,而无需完整观看整个视频,从而大大提升了用户浏览视频的效率。此外,基于视频序列中的排列顺序对应播放待展示视频帧,使得用户可以优先观看到更重要的视频帧,从而提升了用户体验。
117.在一个实施例中,按照视频序列中的各待展示视频帧的排列顺序,播放视频序列包括:当检测到对当前播放的待展示视频帧的点击操作时,确定点击操作所指向的位置坐标;基于位置坐标确定点击操作所属的位置区域;位置区域包括第一区域以及第二区域;当点击操作属于第一区域时,基于视频序列中的各待展示视频帧的排列顺序,确定并播放与
当前播放的待展示视频帧相邻,且位于当前播放的待展示视频帧之前的前一视频帧;当点击操作属于第二区域时,基于视频序列中的各待展示视频帧的排列顺序,确定并播放与当前播放的待展示视频帧相邻,且位于当前播放的待展示视频帧之后的后一视频帧。
118.其中,第一区域是指位于待展示视频帧左半部分的图像区域,第二区域是指位于待展示视频帧右半部分的图像区域。
119.具体地,终端可以以待展示视频帧的中轴线为起点,将中轴线以左的图像区域判定为第一图像区域,将中轴线以右的图像区域判定为第二图像区域。当终端播放当前待展示视频帧时,用户可以对当前播放的待展示视频帧的进行点击操作,与此同时,终端确定用户的点击操作所指向的位置坐标。当确定位置坐标属于第一区域时,终端获取当前播放的待展示视频帧在视频序列中的排列位置,并基于排列位置获取前一视频帧,之后,展示前一视频帧。其中,前一视频帧是指与当前播放的待展示视频帧相邻,且位于当前播放的待展示视频帧之前的前一帧视频帧。同理,当确定用户点击第二图像区域时,终端获取并展示后一视频帧。
120.本实施例中,用户仅仅需要通过简单的点击操作,既能操控视频帧中的各待展示视频帧的播放,如此,不仅提升了播放效率,而且大大提升了用户体验。
121.在一个实施例中,上述视觉信息展示方法还包括:当检测到对待展示视频帧中的人脸的点击操作时,根据点击操作,从至少一个人脸图像分组中筛选出第二目标人脸图像分组;展示第二人脸图像分组。
122.具体地,当终端播放视频序列时,终端对用户的点击操作进行监控,在检测到对当前播放的待展示视频帧中的人脸的点击操作时,终端获取点击操作所指向的人脸中的人脸特征,并基于人脸特征从人脸图像分组中确定第二目标人脸图像分组。其中,第二目标人脸图像分组中的每张人脸图像均包含有点击操作所指向的人脸。与此同时,终端对第二人脸图像分组中的各人脸图像进行排序,并按照排列顺序展示第二人脸图像分组中的各人脸图像。
123.在其中一个实施例中,当用户对当前播放的待展示视频帧中的人脸的进行点击操作时,终端展示一个包含有照片控件的控件列表,当确定用户点击了照片控件时,终端随机获取包含有点击操作所指向的人脸的一张人脸图像,并如图7所示全屏展示获取得到的人脸图像。图7为一个实施例中,从视频播放跳转至图像播放的示意图。
124.本实施例中,用户仅仅只需要通过简单的点击操作,即可从视频帧跳转至人脸图像分组,相比于传统的需要先退出视频播放,在进入图像库,本方法可以减少视频跳转至图像所需要的跳转步骤,从而提升了跳转效率。此外,由于用户可以以人脸为基准,快速地在不同人脸所对应的人脸图像分组或者视频分之间进行切换,相比于传统的从头至尾浏览图像库中的全部图像,或者完整观看整个视频,本技术可以进一步提升浏览效率。
125.应该理解的是,虽然图2、5的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图2、5中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
126.在一个实施例中,如图8所示,提供了一种视觉信息展示装置800,包括:聚类模块802、图像展示模块804和视频展示模块806,其中:
127.聚类模块802,用于获取多张人脸图像以及视频集;分别对人脸图像以及待视频集进行聚类,得到至少一个由人脸图像组成的人脸图像分组,以及至少一个由待展示视频帧组成的视频分组;
128.图像展示模块804,用于当检测到第一触发操作时,通过第一触发操作,从人脸图像分组中确定待展示人脸图像;
129.视频展示模块806,用于当检测到对第一触发操作指向的人脸图像中的人脸的第二触发操作时,基于第二触发操作,从视频分组中筛选出目标视频分组;播放目标视频分组。
130.在其中一个实施例中,图像展示模块804还用包括排序模块8041,用于当检测到针对人脸图像分组的第一点击操作时,基于第一点击操作,从至少一个人脸图像分组中筛选出第一目标人脸图像分组;确定第一目标人脸图像分组中的各人脸图像的排列顺序;按照排列顺序展示第一目标人脸图像分组中的每张人脸图像;当检测到对展示的人脸图像的第二点击操作时,展示第二点击操作所指向的人脸图像。
131.在其中一个实施例中,排序模块8041还用于确定所述第一目标人脸图像分组中的每张人脸图像均包含的同一人物的人脸,记作聚类人脸;确定每张人脸图像中的其它人脸与聚类人脸之间的相关性;基于其它人脸与聚类人脸之间的相关性,确定每张人脸图像的相关性;按照每张人脸图像的相关性,对第一目标人脸图像分组中的多张人脸图像进行排序。
132.在其中一个实施例中,排序模块8041还用于以所述聚类人脸为基准,确定每张人脸图像中的其它人脸与所述聚类人脸之间的拓扑关系图;拓扑关系图包含有至少一条边;拓扑关系图中的边与两张位于同一人脸图像中的人脸相连;确定基于边相连接的两张不同人脸在各人脸图像中出现的频率次数;基于频率次数,确定拓扑关系图中各边所对应的权重;根据权重以及拓扑关系图中各人脸之间的连接关系,确定每张人脸图像中的其它人脸与所述聚类人脸之间的相关性。
133.在其中一个实施例中,视频展示模块806还包括视频序列生成模块8061,用于确定目标视频分组中的每帧待展示视频帧所属的视频,以及获取每帧待展示视频帧在所属的视频中的播放时间;基于播放时间对属于同一视频中的待展示视频帧进行排序,得到至少一个中间序列结果;按照预设的排序规则对全部中间序列结果进行排序,得到视频序列;按照视频序列中的各待展示视频帧的排列顺序,播放视频序列。
134.在一个实施例中,视频序列生成模块8061还用于当检测到对当前播放的待展示视频帧的点击操作时,确定点击操作所指向的位置坐标;基于位置坐标确定点击操作所属的位置区域;位置区域包括第一区域以及第二区域;当点击操作属于第一区域时,基于视频序列中的各待展示视频帧的排列顺序,确定并播放与当前播放的待展示视频帧相邻,且位于当前播放的待展示视频帧之前的前一视频帧;当点击操作属于第二区域时,基于视频序列中的各待展示视频帧的排列顺序,确定并播放与当前播放的待展示视频帧相邻,且位于当前播放的待展示视频帧之后的后一视频帧。
135.在一个实施例中,上述视觉信息展示装置800还用于当检测到对待展示视频帧中
的人脸的点击操作时,根据点击操作,从至少一个人脸图像分组中筛选出第二目标人脸图像分组;展示第二人脸图像分组。
136.关于视觉信息展示装置的具体限定可以参见上文中对于视觉信息展示方法的限定,在此不再赘述。上述视觉信息展示装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
137.在一个实施例中,提供了一种计算机设备,该计算机设备可以是终端,其内部结构图可以如图9所示。该计算机设备包括通过系统总线连接的处理器、存储器、通信接口、显示屏和输入装置。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的通信接口用于与外部的终端进行有线或无线方式的通信,无线方式可通过wifi、运营商网络、nfc(近场通信)或其他技术实现。该计算机程序被处理器执行时以实现一种视觉信息展示方法。该计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏,该计算机设备的输入装置可以是显示屏上覆盖的触摸层,也可以是计算机设备外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。
138.本领域技术人员可以理解,图9中示出的结构,仅仅是与本技术方案相关的部分结构的框图,并不构成对本技术方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
139.在一个实施例中,提供了一种计算机设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现以下步骤:
140.获取多张人脸图像以及视频集;视频集中包括待展示视频帧;
141.分别对人脸图像以及视频集进行聚类,得到至少一个由人脸图像组成的人脸图像分组,以及至少一个由待展示视频帧组成的视频分组;
142.当检测到第一触发操作时,通过第一触发操作,从人脸图像分组中确定待展示人脸图像;
143.当检测到对待展示人脸图像中的人脸的第二触发操作时,基于第二触发操作,从视频分组中筛选出目标视频分组;
144.播放目标视频分组。
145.在一个实施例中,处理器执行计算机程序时还实现以下步骤:
146.当检测到针对人脸图像分组的第一点击操作时,基于第一点击操作,从至少一个人脸图像分组中筛选出第一目标人脸图像分组;
147.确定第一目标人脸图像分组中的各人脸图像的排列顺序;
148.按照排列顺序展示第一目标人脸图像分组中的每张人脸图像;
149.当检测到对展示的人脸图像的第二点击操作时,展示第二点击操作所指向的人脸图像。
150.在一个实施例中,人脸图像分组包括属于同一人物的人脸图像;处理器执行计算机程序时还实现以下步骤:
151.确定第一目标人脸图像分组中的每张人脸图像均包含的同一人物的人脸,记作聚类人脸;
152.确定每张人脸图像中的其它人脸与聚类人脸之间的相关性;
153.基于其它人脸与所述聚类人脸之间的相关性,确定每张人脸图像的相关性;
154.按照每张人脸图像的相关性,对第一目标人脸图像分组中的多张人脸图像进行排序。
155.在一个实施例中,处理器执行计算机程序时还实现以下步骤:
156.以聚类人脸为基准,确定每张人脸图像中的其它人脸与聚类人脸之间的拓扑关系图;拓扑关系图包含有至少一条边;拓扑关系图中的边与两张位于同一人脸图像中的人脸相连;
157.确定基于边相连接的两张不同人脸在各人脸图像中出现的频率次数;
158.基于频率次数,确定拓扑关系图中各边所对应的权重;
159.根据权重以及拓扑关系图中各人脸之间的连接关系,确定每张人脸图像中的其它人脸与聚类人脸之间的相关性。
160.在一个实施例中,处理器执行计算机程序时还实现以下步骤:
161.确定目标视频分组中的每帧待展示视频帧所属的视频,以及获取每帧待展示视频帧在所属的视频中的播放时间;
162.基于播放时间对属于同一视频中的待展示视频帧进行排序,得到至少一个中间序列结果;
163.按照预设的排序规则对全部中间序列结果进行排序,得到视频序列;
164.按照视频序列中的各待展示视频帧的排列顺序,播放视频序列。
165.在一个实施例中,处理器执行计算机程序时还实现以下步骤:
166.当检测到对当前播放的待展示视频帧的点击操作时,确定点击操作所指向的位置坐标;
167.基于位置坐标确定点击操作所属的位置区域;位置区域包括第一区域以及第二区域;
168.当点击操作属于第一区域时,基于视频序列中的各待展示视频帧的排列顺序,确定并播放与当前播放的待展示视频帧相邻,且位于当前播放的待展示视频帧之前的前一视频帧;
169.当点击操作属于第二区域时,基于视频序列中的各待展示视频帧的排列顺序,确定并播放与当前播放的待展示视频帧相邻,且位于当前播放的待展示视频帧之后的后一视频帧。
170.在一个实施例中,处理器执行计算机程序时还实现以下步骤:
171.当检测到对待展示视频帧中的人脸的点击操作时,根据点击操作,从至少一个人脸图像分组中筛选出第二目标人脸图像分组;
172.展示第二人脸图像分组。
173.在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现以下步骤:
174.获取多张人脸图像以及视频集;视频集中包括待展示视频帧;
175.分别对人脸图像以及视频集进行聚类,得到至少一个由人脸图像组成的人脸图像分组,以及至少一个由待展示视频帧组成的视频分组;
176.当检测到第一触发操作时,通过第一触发操作,从人脸图像分组中确定待展示人脸图像;
177.当检测到对待展示人脸图像中的人脸的第二触发操作时,基于第二触发操作,从视频分组中筛选出目标视频分组;
178.播放目标视频分组。
179.在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
180.当检测到针对人脸图像分组的第一点击操作时,基于第一点击操作,从至少一个人脸图像分组中筛选出第一目标人脸图像分组;
181.确定第一目标人脸图像分组中的各人脸图像的排列顺序;
182.按照排列顺序展示第一目标人脸图像分组中的每张人脸图像;
183.当检测到对展示的人脸图像的第二点击操作时,展示第二点击操作所指向的人脸图像。
184.在一个实施例中,人脸图像分组包括属于同一人物的人脸图像;计算机程序被处理器执行时还实现以下步骤:
185.确定第一目标人脸图像分组中的每张人脸图像均包含的同一人物的人脸,记作聚类人脸;
186.确定每张人脸图像中的其它人脸与聚类人脸之间的相关性;
187.基于其它人脸与所述聚类人脸之间的相关性,确定每张人脸图像的相关性;
188.按照每张人脸图像的相关性,对第一目标人脸图像分组中的多张人脸图像进行排序。
189.在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
190.以聚类人脸为基准,确定每张人脸图像中的其它人脸与聚类人脸之间的拓扑关系图;拓扑关系图包含有至少一条边;拓扑关系图中的边与两张位于同一人脸图像中的人脸相连;
191.确定基于边相连接的两张不同人脸在各人脸图像中出现的频率次数;
192.基于频率次数,确定拓扑关系图中各边所对应的权重;
193.根据权重以及拓扑关系图中各人脸之间的连接关系,确定每张人脸图像中的其它人脸与所述聚类人脸之间的相关性。
194.在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
195.确定目标视频分组中的每帧待展示视频帧所属的视频,以及获取每帧待展示视频帧在所属的视频中的播放时间;
196.基于播放时间对属于同一视频中的待展示视频帧进行排序,得到至少一个中间序列结果;
197.按照预设的排序规则对全部中间序列结果进行排序,得到视频序列;
198.按照视频序列中的各待展示视频帧的排列顺序,播放视频序列。
199.在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
200.当检测到对当前播放的待展示视频帧的点击操作时,确定点击操作所指向的位置
坐标;
201.基于位置坐标确定点击操作所属的位置区域;位置区域包括第一区域以及第二区域;
202.当点击操作属于第一区域时,基于视频序列中的各待展示视频帧的排列顺序,确定并播放与当前播放的待展示视频帧相邻,且位于当前播放的待展示视频帧之前的前一视频帧;
203.当点击操作属于第二区域时,基于视频序列中的各待展示视频帧的排列顺序,确定并播放与当前播放的待展示视频帧相邻,且位于当前播放的待展示视频帧之后的后一视频帧。
204.在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
205.当检测到对待展示视频帧中的人脸的点击操作时,根据点击操作,从至少一个人脸图像分组中筛选出第二目标人脸图像分组;
206.展示第二人脸图像分组。
207.本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本技术所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(read-only memory,rom)、磁带、软盘、闪存或光存储器等。易失性存储器可包括随机存取存储器(random access memory,ram)或外部高速缓冲存储器。作为说明而非局限,ram可以是多种形式,比如静态随机存取存储器(static random access memory,sram)或动态随机存取存储器(dynamic random access memory,dram)等。
208.以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
209.以上所述实施例仅表达了本技术的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本技术构思的前提下,还可以做出若干变形和改进,这些都属于本技术的保护范围。因此,本技术专利的保护范围应以所附权利要求为准。
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献