一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

基于人工智能的数据监控方法、装置、设备及存储介质与流程

2022-10-26 14:11:33 来源:中国专利 TAG:


1.本技术涉及人工智能技术领域,尤其涉及基于人工智能的数据监控方法、装置、设备及存储介质。


背景技术:

2.在业务系统的运作过程中,通常需要采集与用户相关的埋点数据,并且需要进一步对采集的埋点数据进行监控处理,以及时发现业务系统中存在的异常情形。现有对于埋点数据的监控方式,通常是运维人员根据一些预先定义的监控规则与风控规则来对埋点数据进行人工异常分析,并且后续还需对得到的分析结果进行整理。这样的数据监控处理方式需要消耗较多的人力资源,处理效率低且异常分析的准确性无法得到保证,难于满足当下对于业务系统监控日益增加的高质量要求。


技术实现要素:

3.本技术实施例的目的在于提出一种基于人工智能的数据监控方法、装置、计算机设备及存储介质,以解决现有的数据监控处理方式需要消耗较多的人力资源,处理效率低且异常分析的准确性无法得到保证的技术问题。
4.为了解决上述技术问题,本技术实施例提供一种基于人工智能的数据监控方法,采用了如下所述的技术方案:
5.基于预设的数据上报组件采集各个业务节点的处理状态数据;
6.基于预设的数据引擎对所述处理状态数据进行聚合加工处理,得到与所述处理状态数据对应的目标指标数据;
7.调用预设数量的异常分析模型,并从所有所述异常分析模型中确定出目标异常分析模型;其中,所述目标异常分析模型的数量为一个或多个;
8.基于所述目标异常分析模型对所述目标指标数据进行异常预测处理,生成与所述目标指标数据对应的异常预测结果;
9.基于所述异常预测结果对所述目标指标数据进行标识处理得到处理后的目标指标数据,并展示所述处理后的目标指标数据。
10.进一步的,所述基于预设的数据引擎对所述处理状态数据进行聚合加工处理,得到与所述处理状态数据对应的目标指标数据的步骤,具体包括:
11.获取预设的时间维度信息与分区条件;
12.调用所述数据引擎;
13.使用所述数据引擎,根据所述时间维度信息与所述分区条件对所述处理状态数据进行分类聚合运算,得到所述目标指标数据。
14.进一步的,所述目标异常分析模型的数量为一个,所述调用预设数量的异常分析模型,并从所有所述异常分析模型中确定出目标异常分析模型的步骤,具体包括:
15.获取预设的测试样本数据集;
16.基于所述测试样本数据集生成各所述异常分析模型的召回率;
17.基于所述测试样本数据集生成各所述异常分析模型的预测精确率;
18.基于所述测试样本数据集生成各所述异常分析模型的预测处理效率值;
19.基于各所述异常分析模型的召回率、预测精确率与预测处理效率值,调用预设计算公式生成各所述异常分析模型的综合处理分数;
20.从所有所述异常分析模型中筛选出综合处理分数最大的异常分析模型,得到所述目标异常分析模型。
21.进一步的,所述基于所述测试样本数据集生成各所述异常分析模型的预测处理效率值的步骤,具体包括:
22.获取所述测试样本数据集;其中,所述测试样本数据集包括多个测试样本数据;
23.在指定异常分析模型获取到每一个所述测试样本数据时,分别统计所述指定异常分析模型生成与每一个所述测试样本数据分别对应的预测结果的预测处理时间;其中,所述指定异常分析模型为所有所述异常分析模型中的任意一个模型;
24.从所有所述预测处理时间中删除数值最大的第一预测处理时间与数值最小的第二预测处理时间,得到第三预测处理时间;
25.计算所有所述第三预测处理时间之间的第一平均值;
26.获取所有所述预测处理时间的中位数对应的指定预测处理时间;
27.计算所述第一平均值与所述指定预测处理时间之间的第二平均值,并将所述第二平均值作为所述指定异常分析模型的预测处理效率值。
28.进一步的,所述目标异常分析模型的数量为多个,所述基于所述目标异常分析模型对所述目标指标数据进行异常预测处理,生成与所述目标指标数据对应的异常预测结果的步骤,具体包括:
29.使用各所述目标异常分析模型分别对所述目标指标数据进行异常预测处理,得到对应的多个指定异常预测结果;其中,所述指定异常预测结果包括数据正常或数据异常;
30.判断所有所述指定异常预测结果是否均为数据正常;
31.若所有所述指定异常预测结果均为数据正常,则生成与所述目标指标数据对应的数据正常的第一异常预测结果;
32.若所有所述指定异常预测结果中至少存在一个数据异常的异常预测结果,则生成与所述目标指标数据对应的数据异常的第二异常预测结果。
33.进一步的,在所述调用预设数量的异常分析模型的步骤之前,还包括:
34.获取预设数量的训练样本数据集,并从所述训练样本数据集中确定出指定训练样本数据集;其中,所述指定训练样本数据集为所有所述训练样本数据集中的任意一个数据集,所述指定训练样本数据集包括若干指定指标数据样本,以及与所述指定指标数据样本对应的指定类别标签;
35.基于所述指定指标数据样本与所述指定类别标签对预设的机器学习模型进行训练,得到原始异常分析模型;
36.获取预设的验证样本数据集,并基于所述验证样本数据集对所述原始异常分析模型进行验证;
37.若所述原始异常分析模型通过验证,则将所述原始异常分析模型作为与所述指定
训练样本数据集对应的指定异常分析模型。
38.进一步的,在所述基于所述目标异常分析模型对所述目标指标数据进行异常预测处理,生成与所述目标指标数据对应的异常预测结果的步骤之后,还包括:
39.判断所述异常预测结果是否为数据异常;
40.若为数据异常,基于所述异常预测结果与预设的告警信息模板,生成与所述目标指标数据对应的告警信息;
41.获取目标用户的通讯地址;
42.将所述告警信息发送至所述通讯地址。
43.为了解决上述技术问题,本技术实施例还提供一种基于人工智能的数据监控装置,采用了如下所述的技术方案:
44.采集模块,用于基于预设的数据上报组件采集各个业务节点的处理状态数据;
45.第一生成模块,用于基于预设的数据引擎对所述处理状态数据进行聚合加工处理,得到与所述处理状态数据对应的目标指标数据;
46.确定模块,用于调用预设数量的异常分析模型,并从所有所述异常分析模型中确定出目标异常分析模型;其中,所述目标异常分析模型的数量为一个或多个;
47.第二生成模块,用于基于所述目标异常分析模型对所述目标指标数据进行异常预测处理,生成与所述目标指标数据对应的异常预测结果;
48.展示模块,用于基于所述异常预测结果对所述目标指标数据进行标识处理得到处理后的目标指标数据,并展示所述处理后的目标指标数据。
49.为了解决上述技术问题,本技术实施例还提供一种计算机设备,采用了如下所述的技术方案:
50.基于预设的数据上报组件采集各个业务节点的处理状态数据;
51.基于预设的数据引擎对所述处理状态数据进行聚合加工处理,得到与所述处理状态数据对应的目标指标数据;
52.调用预设数量的异常分析模型,并从所有所述异常分析模型中确定出目标异常分析模型;其中,所述目标异常分析模型的数量为一个或多个;
53.基于所述目标异常分析模型对所述目标指标数据进行异常预测处理,生成与所述目标指标数据对应的异常预测结果;
54.基于所述异常预测结果对所述目标指标数据进行标识处理得到处理后的目标指标数据,并展示所述处理后的目标指标数据。
55.为了解决上述技术问题,本技术实施例还提供一种计算机可读存储介质,采用了如下所述的技术方案:
56.基于预设的数据上报组件采集各个业务节点的处理状态数据;
57.基于预设的数据引擎对所述处理状态数据进行聚合加工处理,得到与所述处理状态数据对应的目标指标数据;
58.调用预设数量的异常分析模型,并从所有所述异常分析模型中确定出目标异常分析模型;其中,所述目标异常分析模型的数量为一个或多个;
59.基于所述目标异常分析模型对所述目标指标数据进行异常预测处理,生成与所述目标指标数据对应的异常预测结果;
60.基于所述异常预测结果对所述目标指标数据进行标识处理得到处理后的目标指标数据,并展示所述处理后的目标指标数据。
61.与现有技术相比,本技术实施例主要有以下有益效果:
62.本技术实施例在基于预设的数据上报组件采集得到各个业务节点的处理状态数据后,会基于预设的数据引擎对处理状态数据进行聚合加工处理,得到与处理状态数据对应的目标指标数据,然后调用预设数量的异常分析模型,并从所有异常分析模型中确定出目标异常分析模型,后续基于目标异常分析模型对目标指标数据进行异常预测处理,生成与目标指标数据对应的异常预测结果,最后基于异常预测结果对目标指标数据进行标识处理得到处理后的目标指标数据,并展示处理后的目标指标数据。本技术能够基于计算引擎对用户在各个业务节点产生的处理状态数据进行加工处理以生成相应的指标数据,进而可以使用预设的异常分析模型对目标指标数据进行异常预测处理,从而可以快速准确地生成相应的异常预测结果,提高了对于目标指标数据的异常分析的处理效率与准确性。另外,通过基于得到的异常预测结果对目标指标数据进行标识处理并展示,提高了目标指标数据展示的智能性与便利性,提高了用户的使用体验。
附图说明
63.为了更清楚地说明本技术中的方案,下面将对本技术实施例描述中所需要使用的附图作一个简单介绍,显而易见地,下面描述中的附图是本技术的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
64.图1是本技术可以应用于其中的示例性系统架构图;
65.图2根据本技术的基于人工智能的数据监控方法的一个实施例的流程图;
66.图3是根据本技术的基于人工智能的数据监控装置的一个实施例的结构示意图;
67.图4是根据本技术的计算机设备的一个实施例的结构示意图。
具体实施方式
68.除非另有定义,本文所使用的所有的技术和科学术语与属于本技术的技术领域的技术人员通常理解的含义相同;本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的,不是旨在于限制本技术;本技术的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形,意图在于覆盖不排他的包含。本技术的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。
69.在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本技术的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
70.为了使本技术领域的人员更好地理解本技术方案,下面将结合附图,对本技术实施例中的技术方案进行清楚、完整地描述。
71.如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以
包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
72.用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
73.终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、mp3播放器(moving picture expertsgroup audio layer iii,动态影像专家压缩标准音频层面3)、mp4(moving pictureexperts group audio layer iv,动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。
74.服务器105可以是提供各种服务的服务器,例如对终端设备101、102、103上显示的页面提供支持的后台服务器。
75.需要说明的是,本技术实施例所提供的基于人工智能的数据监控方法一般由服务器/终端设备执行,相应地,基于人工智能的数据监控装置一般设置于服务器/终端设备中。
76.应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
77.继续参考图2,示出了根据本技术的基于人工智能的数据监控方法的一个实施例的流程图。所述的基于人工智能的数据监控方法,包括以下步骤:
78.步骤s201,基于预设的数据上报组件采集各个业务节点的处理状态数据。
79.在本实施例中,基于人工智能的数据监控方法运行于其上的电子设备(例如图1所示的服务器/终端设备),可以通过有线连接方式或者无线连接方式采集各个业务节点的处理状态数据。需要指出的是,上述无线连接方式可以包括但不限于3g/4g/5g连接、wifi连接、蓝牙连接、wimax连接、zigbee连接、uwb(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。上述数据上报组件为开发人员根据实际的业务需求引入的插桩上报组件,该数据上报组件基于代码层面进行事件节点的数据上报。其中,上述业务节点具体可为投保业务节点,业务节点的处理状态数据可包括在用户进行保险浏览、保险报价、投保、支付、承保等阶段采集到的事件状态数据。另外,在得到了各个业务节点的处理状态数据后,可以将处理状态数据按事件先后顺序统一上报至数据引擎内。此外,业务人员可以根据实际的业务处理流程(例如投保业务流程)在上报组件内定义事件上报的节点及链路关系,从而后续在对目标指标数据进行展示时,业务人员能够快速了解投业务处理流程中各环节的转化指标数据,并能及时发现业务问题,同时针对客诉问题能够迅速定位原因,从而提升响应时效,有利于帮助保险企业进行投保流程环节优化,提高用户保险购买满意度。
80.步骤s202,基于预设的数据引擎对所述处理状态数据进行聚合加工处理,得到与所述处理状态数据对应的目标指标数据。
81.在本实施例中,上述数据引擎具体可为flink。flink是由apache软件基金会开发的开源流处理框架,其核心是用java和scala编写的分布式流数据引擎。flink以数据并行(分布式)和流水线方式执行任意流数据程序,flink的流水线运行时系统可以执行批处理和流处理程序。其中,上述基于预设的数据引擎对所述处理状态数据进行聚合加工处理,得到与所述处理状态数据对应的目标指标数据的具体实施过程,本技术将在后续的具体实施例中对此进行进一步的细节描述,在此不作过多阐述。
82.步骤s203,调用预设数量的异常分析模型,并从所有所述异常分析模型中确定出目标异常分析模型;其中,所述目标异常分析模型的数量为一个或多个。
83.在本实施例中,其中,对于上述预设数量的取值不作具体限定,可根据实际的使用需求进行设置。另外,上述从所有所述异常分析模型中确定出目标异常分析模型的具体实施过程,本技术将在后续的具体实施例中对此进行进一步的细节描述,在此不作过多阐述。此外,对于目标异常分析模型的数量的确定过程可包括:获取电子设备的可用内存,并基于预设的可用内存-数量映射表查询出与上述可用内存对应的数量作为标异常分析模型的数量。上述可用内存-数量映射表可基于测试结果、线上问题分析以及专家经验生成,为记录有可用内存信息与模型运作数量的映射关系的数据表。通过基于电子设备当前的可用内存信息来从可用内存-数量映射表中查询出相对应的模型数量,可以保证电子设备的内部模型的数据计算处理过程的损耗代价较小,以及保证数据计算处理处于正常速率且电子设备不会出现卡顿情况。
84.步骤s204,基于所述目标异常分析模型对所述目标指标数据进行异常预测处理,生成与所述目标指标数据对应的异常预测结果。
85.在本实施例中,上述基于所述目标异常分析模型对所述目标指标数据进行异常预测处理,生成与所述目标指标数据对应的异常预测结果的具体实施过程,本技术将在后续的具体实施例中对此进行进一步的细节描述,在此不作过多阐述。
86.步骤s205,基于所述异常预测结果对所述目标指标数据进行标识处理得到处理后的目标指标数据,并展示所述处理后的目标指标数据。
87.在本实施例中,异常预测结果的内容可包括数据正常或数据异常。基于异常预测结果对所述目标指标数据进行标识处理的过程可包括:如果异常预测结果为数据正常,则可对目标指标数据进行绿色标注,以通过绿色标注来标识目标指标数据为正常的数据,而如果异常预测结果为数据异常,则可对目标指标数据进行红色标注,以通过红色标注来标识目标指标数据为异常的数据。通过对目标指标数据进行正常状态或异常状态的标注,使得用户可以清楚的查看出目标指标数据的数据状态,提高了用户的使用体验。另外,可以通过预设的可视化查询界面来对得到的处理后的目标指标数据进行展示。
88.本技术在基于预设的数据上报组件采集得到各个业务节点的处理状态数据后,会基于预设的数据引擎对处理状态数据进行聚合加工处理,得到与处理状态数据对应的目标指标数据,然后调用预设数量的异常分析模型,并从所有异常分析模型中确定出目标异常分析模型,后续基于目标异常分析模型对目标指标数据进行异常预测处理,生成与目标指标数据对应的异常预测结果,最后基于异常预测结果对目标指标数据进行标识处理得到处理后的目标指标数据,并展示处理后的目标指标数据。本技术能够基于计算引擎对用户在各个业务节点产生的处理状态数据进行加工处理以生成相应的指标数据,进而可以使用预设的异常分析模型对目标指标数据进行异常预测处理,从而可以快速准确地生成相应的异常预测结果,提高了对于目标指标数据的异常分析的处理效率与准确性。另外,通过基于得到的异常预测结果对目标指标数据进行标识处理并展示,提高了目标指标数据展示的智能性与便利性,提高了用户的使用体验。
89.在一些可选的实现方式中,步骤s202包括以下步骤:
90.获取预设的时间维度信息与分区条件。
91.在本实施例中,上述预设的时间维度信息与分区条件可根据实际的业务使用需求进行设置。举例地,上述维度信息可包括按照分钟/小时/天等时间维度中的任意一种。
92.调用所述数据引擎。
93.在本实施例中,上述数据引擎具体可为flink。
94.使用所述数据引擎,根据所述时间维度信息与所述分区条件对所述处理状态数据进行分类聚合运算,得到所述目标指标数据。
95.在本实施例中,flink可以按照时间维度信息以及分区条件,进行按时间窗口的分类聚合运算,从而得到与处理状态数据对应的目标指标数据。另外,还可以对生成的目标指标数据进行存储,例如可以将目标指标数据写入elasticsearch搜索服务器中进行存储。
96.本技术在采集到各个业务节点的处理状态数据后,会通过使用计算引擎对处理状态数据进行运算处理,从而可以快速地生成所需的目标指标数据,保证了指标数据的生成速率与准确性。
97.在本实施例的一些可选的实现方式中,所述目标异常分析模型的数量为一个,步骤s203包括以下步骤:
98.获取预设的测试样本数据集。
99.在本实施例中,上述测试样本数据集可基于预先采集的训练样本数据集生成,例如可以从训练样本数据集中随机获取预设比例的数据作为该测试样本数据集。其中,对于上述预设比例的取值不作具体限定,可根据实际需求进行设置,例如可设为30%。另外,上述测试样本集包括多个测试样本数据,以及与各测试样本数据分别对应的类别标签。
100.基于所述测试样本数据集生成各所述异常分析模型的召回率。
101.在本实施例中,可以通过误差矩阵(或称为混淆矩阵)来计算生成异常分析模型的召回率。混淆矩阵用于衡量一个分类器的准确程度。对于二分类问题,将其样例根据真实类别和分类器的预测类别的组合划分为真正例(true positive,tp)、假正例(false positive,fp)、真反例(true negative,tn)、假反例(falsenegative,fn)四种情形。基于误差矩阵,可以使用如下计算公式计算出异常分析模型的召回率:召回率=tp/(tp fn)。
102.基于所述测试样本数据集生成各所述异常分析模型的预测精确率。
103.在本实施例中,可基于上述误差矩阵,使用如下计算公式计算出异常分析模型的预测精确率:预测精确率=tp/(tp fp)。
104.基于所述测试样本数据集生成各所述异常分析模型的预测处理效率值。
105.在本实施例中,上述基于所述测试样本数据集生成各所述异常分析模型的预测处理效率值的具体实施过程,本技术将在后续的具体实施例中对此进行进一步的细节描述,在此不作过多阐述。
106.基于各所述异常分析模型的召回率、预测精确率与预测处理效率值,调用预设计算公式生成各所述异常分析模型的综合处理分数。
107.在本实施例中,上述预设计算公式具体为:score=x*a y*b z*c,其中,score为综合处理分数,x为召回率,a为召回率的第一权重,y为预测精确率,b为预测精确率的第二权重,z为预测处理效率值,c为预测处理效率值的第三权重。另外,对于上述第一权重、第二权重以及第三权重的取值不作具体限定,可根据实际的业务需求进行设置,优选第二权重》第一权重》第三权重,且第一权重、第二权重以及第三权重之间的和值等于1。
108.从所有所述异常分析模型中筛选出综合处理分数最大的异常分析模型,得到所述目标异常分析模型。
109.本技术通过使用预设的测试样本集生成每一个异常分析模型的综合处理分数,进而可基于得到的综合评价分值来确定出目标异常分析模型,由于得到的目标异常分析模型具有最高的综合处理能力,使得后续利用该目标异常分析模型来对目标指标数据进行异常分析,能够有效提高得到的与目标指标数据对应的异常预测结果的准确性,并且能提高对于目标指标数据的异常预测的处理效率。
110.在一些可选的实现方式中,上述基于所述测试样本数据集生成各所述异常分析模型的预测处理效率值,包括以下步骤:
111.获取所述测试样本数据集;其中,所述测试样本数据集包括多个测试样本数据。
112.在指定异常分析模型获取到每一个所述测试样本数据时,分别统计所述指定异常分析模型生成与每一个所述测试样本数据分别对应的预测结果的预测处理时间;其中,所述指定异常分析模型为所有所述异常分析模型中的任意一个模型。
113.在本实施例中,举例地,假如指定异常分析模型成功接收到一个测试样本数据的时间为t1,且指定异常分析模型成功生成与该测试样本数据对应的预测结果时的时间为t2,则可确定指定异常分析模型对应于该测试样本数据的预测处理时间t等于t2-t1。
114.从所有所述预测处理时间中删除数值最大的第一预测处理时间与数值最小的第二预测处理时间,得到第三预测处理时间。
115.计算所有所述第三预测处理时间之间的第一平均值。
116.在本实施例中,可先计算所有第三预测处理时间的和值,再获取所有第三预测处理时间的数量,之后计算上述和值与上述数量之间的商值,得到的商值即为上述第一平均值。
117.获取所有所述预测处理时间的中位数对应的指定预测处理时间。
118.计算所述第一平均值与所述指定预测处理时间之间的第二平均值,并将所述第二平均值作为所述指定异常分析模型的预测处理效率值。
119.在本实施例中,计算第二平均值的过程可参照上述第一平均值的计算过程,在此不作过多阐述。
120.本技术通过使用测试样本数据集可以快速地计算出每一个异常分析模型的预测处理效率值,有利于后续可以基于该预测处理效率值来准确地对所有异常分析模型进行筛选以确定出所需的综合处理能力最高的目标异常分析模型,进而可以使用得到的目标异常分析模型来对目标指标数据进行异常分析,以有效提高得到的与目标指标数据对应的异常预测结果的准确性,以及提高对于目标指标数据的异常预测的处理效率。
121.在一些可选的实现方式中,所述目标异常分析模型的数量为多个,步骤s204包括以下步骤:
122.使用各所述目标异常分析模型分别对所述目标指标数据进行异常预测处理,得到对应的多个指定异常预测结果;其中,所述指定异常预测结果包括数据正常或数据异常。
123.判断所有所述指定异常预测结果是否均为数据正常。
124.若所有所述指定异常预测结果均为数据正常,则生成与所述目标指标数据对应的数据正常的第一异常预测结果。
125.若所有所述指定异常预测结果中至少存在一个数据异常的异常预测结果,则生成与所述目标指标数据对应的数据异常的第二异常预测结果。
126.本技术通过使用该多个目标异常分析模型来对得到的目标指标数据进行异常预测处理,并根据各个目标异常分析模型分别生成的预测结果来生成最终的对于目标指标数据的异常预测结果,有效保证生成的异常预测结果的全面性与准确性,既避免了仅利用一个异常分析模型来对目标指标数据进行预测处理而导致预测误差过大,有效地提高了对于目标指标数据的预测准确率,提高了异常预测结果的生成智能性。
127.在本实施例的一些可选的实现方式中,在步骤s203之后,上述电子设备还可以执行以下步骤:
128.获取预设数量的训练样本数据集,并从所述训练样本数据集中确定出指定训练样本数据集;其中,所述指定训练样本数据集为所有所述训练样本数据集中的任意一个数据集,所述指定训练样本数据集包括若干指定指标数据样本,以及与所述指定指标数据样本对应的指定类别标签。
129.在本实施例中,上述指定类别标签的标签内容可包括数据正常或数据异常。
130.基于所述指定指标数据样本与所述指定类别标签对预设的机器学习模型进行训练,得到原始异常分析模型。
131.在本实施例中,上述机器学习模型可包括随机森林模型、朴素贝叶斯模型,逻辑回归模型中的任意一种。另外,对于各种机器学习模型的训练过程可参照现有的模型训练过程,在此不作过多阐述。
132.获取预设的验证样本数据集,并基于所述验证样本数据集对所述原始异常分析模型进行验证。
133.在本实施例中,基于所述验证样本数据集对所述原始异常分析模型进行验证是指统计的原始异常分析模型对该验证样本数据集进行异常预测处理后的得到的预测准确率是否大于预设的准确率阈值,如果预测准确率大于该准确率阈值,则判定该原始异常分析模型收敛,从而结束该原始异常分析模型的训练,并将结束训练后的原始异常分析模型作为上述指定异常分析模型。另外,如果预测准确率小于该准确率阈值,那么说明训练后的原始异常分析模型的训练还没有达到了预设标准,可能是用于训练的训练样本数据集的样本数量过少或验证样本数据集的样本数量过少,因而,在这种情况时,可进一步增大指定指标数据样本的样本数量,例如进而每次增加固定数量或每次增加随机数量,然后在此基础上重新执行上述的训练过程与测试过程,如此循环执行,直至训练后的原始异常分析模型的预测准确率满足大于该准确率阈值的要求,则结束模型训练。
134.若所述原始异常分析模型通过验证,则将所述原始异常分析模型作为与所述指定训练样本数据集对应的指定异常分析模型。
135.本技术通过使用包括指定指标数据样本,以及与指标数据样本对应的指定类别标签的训练样本数据集来对预设的机器学习模型进行训练及验证,从而可以智能快速的生成符合实际使用需求的异常分析模型,有利于后续在生成目标指标数据时,能够基于训练得到的异常分析模型来对该目标指标数据进行异常预测,进而快速准确地生成与目标指标数据对应的异常预测结果,提高了异常预测结果的生成智能性与生成效率。
136.在本实施例的一些可选的实现方式中,在步骤s204之后,上述电子设备还可以执
行以下步骤:
137.判断所述异常预测结果是否为数据异常。
138.在本实施例中,异常预测结果的内容包括数据正常或数据异常。
139.若为数据异常,基于所述异常预测结果与预设的告警信息模板,生成与所述目标指标数据对应的告警信息。
140.在本实施例中,可以将目标指标数据的异常预测结果输入至预创建的告警信息模板内,从而可以生成与目标指标数据对应的告警信息。其中,上述告警信息模板可为根据实际的使用需求进行编写生成的。
141.获取目标用户的通讯地址。
142.在本实施例中,上述目标用户可为数据监控运营相关的管理人员。另外,上述通讯地址可为邮件地址。
143.将所述告警信息发送至所述通讯地址。
144.在本实施例中,如果通讯地址为邮件地址,则可以通过登录邮件服务器,再基于邮件服务器将该告警信息发送至目标用户的通讯地址。
145.本技术在通过目标异常分析模型生成了与目标指标数据对应的数据异常的异常预测结果后,会智能地基于预设的告警信息模板生成与目标指标数据对应的告警信息,并将该告警信息发送至相关的目标用户的通讯地址,以便目标用户能够及时根据接收到的告警信息对目标指标数据进行相对应的处理,以提高对于异常数据的处理效率,也提高了目标用户的使用体验。
146.需要强调的是,为进一步保证上述目标指标数据的私密和安全性,上述目标指标数据还可以存储于一区块链的节点中。
147.本技术所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
148.本技术实施例可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(artificial intelligence,ai)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
149.人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
150.本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机可读指令来指令相关的硬件来完成,该计算机可读指令可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,前述的存储介质可为磁碟、光盘、只读存储记忆体(read-only memory,rom)等非易失性存储介质,或随机存储记忆体(random access memory,ram)等。
151.应该理解的是,虽然附图的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,其可以以其他的顺序执行。而且,附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,其执行顺序也不必然是依次进行,而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
152.进一步参考图3,作为对上述图2所示方法的实现,本技术提供了一种基于人工智能的数据监控装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
153.如图3所示,本实施例所述的基于人工智能的数据监控装置300包括:采集模块301、第一生成模块302、确定模块303、第二生成模块304以及展示模块305。其中:
154.采集模块301,用于基于预设的数据上报组件采集各个业务节点的处理状态数据;
155.第一生成模块302,用于基于预设的数据引擎对所述处理状态数据进行聚合加工处理,得到与所述处理状态数据对应的目标指标数据;
156.确定模块303,用于调用预设数量的异常分析模型,并从所有所述异常分析模型中确定出目标异常分析模型;其中,所述目标异常分析模型的数量为一个或多个;
157.第二生成模块304,用于基于所述目标异常分析模型对所述目标指标数据进行异常预测处理,生成与所述目标指标数据对应的异常预测结果;
158.展示模块305,用于基于所述异常预测结果对所述目标指标数据进行标识处理得到处理后的目标指标数据,并展示所述处理后的目标指标数据。
159.在本实施例中,上述模块或单元分别用于执行的操作与前述实施方式的基于人工智能的数据监控方法的步骤一一对应,在此不再赘述。
160.在本实施例的一些可选的实现方式中,第一生成模块302包括:
161.第一获取子模块,用于获取预设的时间维度信息与分区条件;
162.调用子模块,用于调用所述数据引擎;
163.运算子模块,用于使用所述数据引擎,根据所述时间维度信息与所述分区条件对所述处理状态数据进行分类聚合运算,得到所述目标指标数据。
164.在本实施例中,上述模块或单元分别用于执行的操作与前述实施方式的基于人工智能的数据监控方法的步骤一一对应,在此不再赘述。
165.在本实施例的一些可选的实现方式中,所述目标异常分析模型的数量为一个,确定模块303包括:
166.第二获取子模块,用于获取预设的测试样本数据集;
167.第一生成子模块,用于基于所述测试样本数据集生成各所述异常分析模型的召回率;
168.第二生成子模块,用于基于所述测试样本数据集生成各所述异常分析模型的预测精确率;
169.第三生成子模块,用于基于所述测试样本数据集生成各所述异常分析模型的预测处理效率值;
170.第四生成子模块,用于基于各所述异常分析模型的召回率、预测精确率与预测处
理效率值,调用预设计算公式生成各所述异常分析模型的综合处理分数;
171.确定子模块,用于从所有所述异常分析模型中筛选出综合处理分数最大的异常分析模型,得到所述目标异常分析模型。
172.本实施例中,上述模块或单元分别用于执行的操作与前述实施方式的基于人工智能的数据监控方法的步骤一一对应,在此不再赘述。
173.在本实施例的一些可选的实现方式中,第三生成子模块包括:
174.第一获取单元,用于获取所述测试样本数据集;其中,所述测试样本数据集包括多个测试样本数据;
175.统计单元,用于在指定异常分析模型获取到每一个所述测试样本数据时,分别统计所述指定异常分析模型生成与每一个所述测试样本数据分别对应的预测结果的预测处理时间;其中,所述指定异常分析模型为所有所述异常分析模型中的任意一个模型;
176.删除单元,用于从所有所述预测处理时间中删除数值最大的第一预测处理时间与数值最小的第二预测处理时间,得到第三预测处理时间;
177.计算单元,用于计算所有所述第三预测处理时间之间的第一平均值;
178.第二获取单元,用于获取所有所述预测处理时间的中位数对应的指定预测处理时间;
179.确定单元,用于计算所述第一平均值与所述指定预测处理时间之间的第二平均值,并将所述第二平均值作为所述指定异常分析模型的预测处理效率值。
180.在本实施例中,上述模块或单元分别用于执行的操作与前述实施方式的基于人工智能的数据监控方法的步骤一一对应,在此不再赘述。
181.在本实施例的一些可选的实现方式中,所述目标异常分析模型的数量为多个,第二生成模块304包括:
182.预测子模块,用于使用各所述目标异常分析模型分别对所述目标指标数据进行异常预测处理,得到对应的多个指定异常预测结果;其中,所述指定异常预测结果包括数据正常或数据异常;
183.判断子模块,用于判断所有所述指定异常预测结果是否均为数据正常;
184.第五生成子模块,用于若所有所述指定异常预测结果均为数据正常,则生成与所述目标指标数据对应的数据正常的第一异常预测结果;
185.第六生成子模块,用于若所有所述指定异常预测结果中至少存在一个数据异常的异常预测结果,则生成与所述目标指标数据对应的数据异常的第二异常预测结果。
186.在本实施例中,上述模块或单元分别用于执行的操作与前述实施方式的基于人工智能的数据监控方法的步骤一一对应,在此不再赘述。
187.在本实施例的一些可选的实现方式中,基于人工智能的数据监控装置还包括:
188.第一获取模块,用于获取预设数量的训练样本数据集,并从所述训练样本数据集中确定出指定训练样本数据集;其中,所述指定训练样本数据集为所有所述训练样本数据集中的任意一个数据集,所述指定训练样本数据集包括若干指定指标数据样本,以及与所述指定指标数据样本对应的指定类别标签;
189.训练模块,用于基于所述指定指标数据样本与所述指定类别标签对预设的机器学习模型进行训练,得到原始异常分析模型;
190.验证模块,用于获取预设的验证样本数据集,并基于所述验证样本数据集对所述原始异常分析模型进行验证;
191.第三生成模块,用于若所述原始异常分析模型通过验证,则将所述原始异常分析模型作为与所述指定训练样本数据集对应的指定异常分析模型。
192.在本实施例中,上述模块或单元分别用于执行的操作与前述实施方式的基于人工智能的数据监控方法的步骤一一对应,在此不再赘述。
193.在本实施例的一些可选的实现方式中,基于人工智能的数据监控装置还包括:
194.判断模块,用于判断所述异常预测结果是否为数据异常;
195.第四生成模块,用于若为数据异常,基于所述异常预测结果与预设的告警信息模板,生成与所述目标指标数据对应的告警信息;
196.第二获取模块,用于获取目标用户的通讯地址;
197.发送模块,用于将所述告警信息发送至所述通讯地址。
198.在本实施例中,上述模块或单元分别用于执行的操作与前述实施方式的基于人工智能的数据监控方法的步骤一一对应,在此不再赘述。
199.为解决上述技术问题,本技术实施例还提供计算机设备。具体请参阅图4,图4为本实施例计算机设备基本结构框图。
200.所述计算机设备4包括通过系统总线相互通信连接存储器41、处理器42、网络接口43。需要指出的是,图中仅示出了具有组件41-43的计算机设备4,但是应理解的是,并不要求实施所有示出的组件,可以替代的实施更多或者更少的组件。其中,本技术领域技术人员可以理解,这里的计算机设备是一种能够按照事先设定或存储的指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(application specific integrated circuit,asic)、可编程门阵列(field-programmable gate array,fpga)、数字处理器(digital signal processor,dsp)、嵌入式设备等。
201.所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。
202.所述存储器41至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,sd或dx存储器等)、随机访问存储器(ram)、静态随机访问存储器(sram)、只读存储器(rom)、电可擦除可编程只读存储器(eeprom)、可编程只读存储器(prom)、磁性存储器、磁盘、光盘等。在一些实施例中,所述存储器41可以是所述计算机设备4的内部存储单元,例如该计算机设备4的硬盘或内存。在另一些实施例中,所述存储器41也可以是所述计算机设备4的外部存储设备,例如该计算机设备4上配备的插接式硬盘,智能存储卡(smart media card,smc),安全数字(secure digital,sd)卡,闪存卡(flash card)等。当然,所述存储器41还可以既包括所述计算机设备4的内部存储单元也包括其外部存储设备。本实施例中,所述存储器41通常用于存储安装于所述计算机设备4的操作系统和各类应用软件,例如基于人工智能的数据监控方法的计算机可读指令等。此外,所述存储器41还可以用于暂时地存储已经输出或者将要输出的各类数据。
203.所述处理器42在一些实施例中可以是中央处理器(central processing unit,cpu)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器42通常用于控制所述计
算机设备4的总体操作。本实施例中,所述处理器42用于运行所述存储器41中存储的计算机可读指令或者处理数据,例如运行所述基于人工智能的数据监控方法的计算机可读指令。
204.所述网络接口43可包括无线网络接口或有线网络接口,该网络接口43通常用于在所述计算机设备4与其他电子设备之间建立通信连接。
205.与现有技术相比,本技术实施例主要有以下有益效果:
206.本技术实施例中,在基于预设的数据上报组件采集得到各个业务节点的处理状态数据后,会基于预设的数据引擎对处理状态数据进行聚合加工处理,得到与处理状态数据对应的目标指标数据,然后调用预设数量的异常分析模型,并从所有异常分析模型中确定出目标异常分析模型,后续基于目标异常分析模型对目标指标数据进行异常预测处理,生成与目标指标数据对应的异常预测结果,最后基于异常预测结果对目标指标数据进行标识处理得到处理后的目标指标数据,并展示处理后的目标指标数据。本技术能够基于计算引擎对用户在各个业务节点产生的处理状态数据进行加工处理以生成相应的指标数据,进而可以使用预设的异常分析模型对目标指标数据进行异常预测处理,从而可以快速准确地生成相应的异常预测结果,提高了对于目标指标数据的异常分析的处理效率与准确性。另外,通过基于得到的异常预测结果对目标指标数据进行标识处理并展示,提高了目标指标数据展示的智能性与便利性,提高了用户的使用体验。
207.本技术还提供了另一种实施方式,即提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可读指令,所述计算机可读指令可被至少一个处理器执行,以使所述至少一个处理器执行如上述的基于人工智能的数据监控方法的步骤。
208.与现有技术相比,本技术实施例主要有以下有益效果:
209.本技术实施例中,在基于预设的数据上报组件采集得到各个业务节点的处理状态数据后,会基于预设的数据引擎对处理状态数据进行聚合加工处理,得到与处理状态数据对应的目标指标数据,然后调用预设数量的异常分析模型,并从所有异常分析模型中确定出目标异常分析模型,后续基于目标异常分析模型对目标指标数据进行异常预测处理,生成与目标指标数据对应的异常预测结果,最后基于异常预测结果对目标指标数据进行标识处理得到处理后的目标指标数据,并展示处理后的目标指标数据。本技术能够基于计算引擎对用户在各个业务节点产生的处理状态数据进行加工处理以生成相应的指标数据,进而可以使用预设的异常分析模型对目标指标数据进行异常预测处理,从而可以快速准确地生成相应的异常预测结果,提高了对于目标指标数据的异常分析的处理效率与准确性。另外,通过基于得到的异常预测结果对目标指标数据进行标识处理并展示,提高了目标指标数据展示的智能性与便利性,提高了用户的使用体验。
210.通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本技术的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如rom/ram、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本技术各个实施例所述的方法。
211.显然,以上所描述的实施例仅仅是本技术一部分实施例,而不是全部的实施例,附图中给出了本技术的较佳实施例,但并不限制本技术的专利范围。本技术可以以许多不同
的形式来实现,相反地,提供这些实施例的目的是使对本技术的公开内容的理解更加透彻全面。尽管参照前述实施例对本技术进行了详细的说明,对于本领域的技术人员来而言,其依然可以对前述各具体实施方式所记载的技术方案进行修改,或者对其中部分技术特征进行等效替换。凡是利用本技术说明书及附图内容所做的等效结构,直接或间接运用在其他相关的技术领域,均同理在本技术专利保护范围之内。
再多了解一些

本文用于创业者技术爱好者查询,仅供学习研究,如用于商业用途,请联系技术所有人。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献