一种时空感知多组件图注意力时序QoS预测方法及系统与流程

本发明涉及软件工程服务推荐，具体涉及一种时空感知多组件图注意力时序qos预测方法及系统。

背景技术：

1、随着在线服务技术的兴起，发布在云上的服务数量迅速增加。这为互联网用户提供了大量的云上服务，给人们的生活带来了很多便利。面对日益增长的服务，如何从提供类似功能的服务中找到并选择最合适的服务，已成为服务计算社会的研究热点。

2、服务包含有功能性属性和非功能属性两种类型的属性，功能属性用于评估服务是否满足用户业务需求，而非功能属性，即服务质量(qos)，可以用于衡量用户体验。其中服务质量（quality of service, qos）能够代表服务的非功能性能，qos是服务质量的泛称，其中包含了诸多更为具体的非功能性能指标，如云服务的响应时间（response time, rt）、吞吐量（throughout, tp）、服务调用的失败率（call failure rate, cfr）等指标。非功能属性已经成为服务选择决策的主要考虑因素。

3、qos指标的观测对服务提供商而言非常重要，通过对响应时间、可靠性等指标的监控能够及时发现服务瓶颈及服务故障，从而对服务进行优化改造修复，为用户提供低耗时、高可靠的服务，这有助于能够提升用户体验，增强用户使用黏性，扩大市场份额。通过对成本和吞吐量的监测能够帮助服务提供商优化服务链路，降低企业经营成本。

4、然而，要为每位用户实际测量所有服务的qos值是不现实的。一方面，进行服务调用来测试web服务qos指标需要消耗资源，用户不可能在大规模服务中评估每个服务的表现是否满足自己的预期。另一方面，服务提供商持续更新提供新型服务，对每个新服务都单独进行评估也是不现实的。因此，在这样的环境下，服务提供商需要在无需调用服务的前提下，基于历史观测数据来为用户进行准确和个性化的qos预测来为用户推荐提供优质的web服务，提升用户的使用体验。

5、现有技术的qos预测方法没有充分利用观测数据及用户服务属性信息构建合理的图结构，从中挖掘空间依赖关系进行qos预测，并且局限于从空间维度或时间维度单一维度进行表征挖掘，单纯运用矩阵分解或者是时序神经网络来进行时序qos预测，并未考虑综合挖掘空间依赖信息和时序变化趋势来提高qos预测精度。

技术实现思路

1、为了解决服务qos预测中的数据稀疏度及冷启动的问题，本发明提供了一种时空感知多组件图注意力时序qos预测方法及系统。

2、s1：针对不同时刻的用户和服务的交互数据，分别进行计算得到用户调用相似性矩阵和服务调用相似性矩阵，进而构建相应的邻接图，该邻接图包括用户邻接图和服务邻接图；

3、s2：在邻接图中利用多组件图注意力网络从空间维度进行多角度挖掘，得到用户和服务的嵌入表达；

4、s3：利用时序神经元从时间维度进行学习，得到qos指标变化的时序趋势、综合空间特征和时间特征；

5、s4：根据步骤s2得到的用户和服务的嵌入表达和s3中得到的特征，使用多层感知机对时序进行实时预测。

6、进一步地，步骤s1具体为：

7、s1.1：对于每个时刻的用户服务调用记录，计算得到该时刻的用户调用相似性矩阵，计算公式如下：

8、，

9、其中，表示用户调用的相似性，分别表示用户和用户，表示和共同调用的服务，表示仅用户调用的服务集合，表示仅用户调用的服务集合，表示用户调用服务的qos记录值，表示用户调用服务的qos记录值，表示用户调用的服务的qos平均值，表示用户调用的服务的qos平均值；

10、s1.2：对于每个时刻的用户服务调用记录，计算得到该时刻的服务调用相似性矩阵，计算公式如下：

11、，

12、其中，表示服务调用相似性，表示共同调用了服务和服务的用户，表示仅调用了服务的用户集合，表示仅调用了服务的用户集合，表示用户调用服务的qos记录值，表示用户调用服务的qos记录值，表示服务的qos平均值，表示服务的qos平均值；

13、s1.3：根据步骤s1.1和s1.2中计算得到的用户调用相似性矩阵和服务调用相似性矩阵，得到对应的邻接图，从中挖掘空间依赖信息；用户邻接图中，以用户为节点，当用户与用户之间的相似性超过设定阈值，构建两个用户之间的连接边；服务邻接图中，以服务为节点，当服务与服务之间的相似度超过设定阈值，构建两个服务间的连接边。

14、进一步地，步骤s2具体为：

15、（1）选取节点的唯一标识作为初始特征嵌入到维特征空间中，该节点包括用户邻接图中表示用户的节点和服务邻接图中表示服务的节点，在每个组件中引入图注意力网络进行表征学习，得到节点的嵌入表达：

16、，

17、，

18、，

19、，

20、其中，表示在组件中用户对于用户的重要程度，=1,2,...,n，n表示组件的数量，表示拼接操作，表示组件中用户的嵌入表达，表示组件中用户的嵌入表达，()表示图注意力网络，表示组件中转换矩阵，表示softmax激活函数，表示用户在组件中的最终嵌入表达，表示在组件中用户的邻居；表示在组件中服务对于服务的重要程度，表示组件中服务的嵌入表达，表示组件中服务的嵌入表达，表示服务在组件中的最终嵌入表达，表示在组件中服务的邻居；

21、（2）经过多组件的学习后，通过注意力网络将多个组件学习到的向量加权相加得到最终的节点嵌入表达，具体计算公式如下所示：

22、，

23、，

24、，

25、，

26、其中，表示用户注意力权重的表达，表示服务的注意力权重的表达，表示注意力权重，表示注意力网络，表示用户的嵌入表达，表示服务的嵌入表达；

27、聚合多个学习组件所学习到的高维信息后得到用户和服务的嵌入表达，然后将其拼接后进行转化，计算公式如下所示：

28、，

29、，

30、其中，和分别表示用户的嵌入表达和服务的嵌入表达，表示拼接后的嵌入表达，表示嵌入层权重，表示嵌入层偏置项，表示线性整流函数，表示转化结果，即当前时间步的输入交互数据。

31、进一步地，步骤s3具体为：

32、s3.1：所述时序神经元gru包括重置门控和更新门控两个部分；

33、重置门控能够基于历史信息和当前信息的交互计算得到相应的权重来决定形成此刻挖掘的新用户服务特征，计算公式如下所示：

34、，

35、其中，表示重置门控可以训练的权重矩阵，表示上一时间步的隐状态，表示当前时间步的输入交互数据，表示重置门权重系数，表示矩阵乘法，表示重置门控的偏置项；

36、s3.2：将当前时间步重置门的输出与上一时间隐藏状态进行计算，得到当前时刻的所挖掘得到的候选隐状态，计算公式如下所示：

37、，

38、其中，表示可以训练的权重矩阵，表示当前时间步的候选隐状态，表示候选隐状态的偏置项；

39、s3.3：更新门控能够控制用户服务高维信息隐状态应该如何被包含了当前时间步的输入信息所更新，计算方法如下所示：

40、，

41、其中，表示更新门控可以训练的权重矩阵，表示更新门控的偏置项；

42、s3.4：根据更新门控的输出，结合上一时间步的隐状态和当前时间步的候选隐状态，得到当前时间步的用户服务高维信息隐状态，计算公式如下所示：

43、，

44、其中，表示当前时间步的隐状态。

45、进一步地，步骤s4具体为：

46、综合了历史qos交互数据的隐状态后，接入全连接神经网络即可进行时间t处的输出运算，计算公式如下所示：

47、，

48、其中，表示输出结果，表示输出层偏置项，relu()表示线性整流函数。

49、一种时空感知多组件图注意力时序qos预测系统，时序动态图构建模块，针对不同时刻的用户和服务的交互数据，分别进行计算得到用户调用相似性矩阵和服务调用相似性矩阵，进而构建相应的邻接图，该邻接图包括用户邻接图和服务邻接图；

50、多组件图注意力学习模块，用于在邻接图中利用多组件图注意力网络从空间维度进行多角度挖掘，得到用户和服务的嵌入表达；

51、时序感知模块，利用时序神经元从时间维度进行学习，得到qos指标变化的时序趋势、综合空间特征和时间特征；

52、qos预测模块，用于根据得到的用户和服务的嵌入表达和特征，使用多层感知机对时序进行实时预测。

53、进一步地，时序动态图构建模块的具体实现过程为：

54、s1.1：对于每个时刻的用户服务调用记录，计算得到该时刻的用户调用相似性矩阵，计算公式如下：

55、，

56、其中，表示用户调用的相似性，分别表示用户和用户，表示和共同调用的服务，表示仅用户调用的服务集合，表示仅用户调用的服务集合，表示用户调用服务的qos记录值，表示用户调用服务的qos记录值，表示用户调用的服务的qos平均值，表示用户调用的服务的qos平均值；

57、s1.2：对于每个时刻的用户服务调用记录，计算得到该时刻的服务调用相似性矩阵，计算公式如下：

58、，

59、其中，表示服务调用相似性，表示共同调用了服务和服务的用户，表示仅调用了服务的用户集合，表示仅调用了服务的用户集合，表示用户调用服务的qos记录值，表示用户调用服务的qos记录值，表示服务的qos平均值，表示服务的qos平均值；

60、s1.3：根据步骤s1.1和s1.2中计算得到的用户调用相似性矩阵和服务调用相似性矩阵，得到对应的邻接图，从中挖掘空间依赖信息；用户邻接图中，以用户为节点，当用户与用户之间的相似性超过设定阈值，构建两个用户之间的连接边；服务邻接图中，以服务为节点，当服务与服务之间的相似度超过设定阈值，构建两个服务间的连接边。

61、进一步地，多组件图注意力网络学习模块的实现过程为：

62、（1）选取节点的唯一标识作为初始特征嵌入到维特征空间中，该节点包括用户邻接图中表示用户的节点和服务邻接图中表示服务的节点，在每个组件中引入图注意力网络进行表征学习，得到节点的嵌入表达：

63、，

64、，

65、，

66、，

67、其中，表示在组件中用户对于用户的重要程度，=1,2,...,n，n表示组件的数量，表示拼接操作，表示组件中用户的嵌入表达，表示组件中用户的嵌入表达，()表示图注意力网络，表示组件中转换矩阵，表示softmax激活函数，表示用户在组件中的最终嵌入表达，表示在组件中用户的邻居；表示在组件中服务n对于服务m的重要程度，表示组件中服务m的嵌入表达，表示组件中服务的嵌入表达，表示服务在组件中的最终嵌入表达，表示在组件中服务m的邻居；

68、（2）经过多组件的学习后，通过注意力网络将多个组件学习到的向量加权相加得到最终的节点嵌入表达，具体计算公式如下所示：

69、，

70、，

71、，

72、，

73、其中，表示用户注意力权重的表达，表示服务的注意力权重的表达，表示注意力权重，表示注意力网络，表示用户的嵌入表达，表示服务的嵌入表达；

74、聚合多个学习组件所学习到的高维信息后得到用户和服务的嵌入表达，然后将其拼接后进行转化，计算公式如下所示：

75、，

76、，

77、其中，和分别表示用户嵌入表达和服务嵌入表达，表示拼接后的嵌入表达，表示嵌入层权重，表示嵌入层偏置项，表示线性整流函数，表示转化结果，即当前时间步的输入交互数据。

78、进一步地，时序感知模块的实现过程为：

79、s3.1：所述时序神经元gru可以分为重置门控和更新门控两个部分；

80、重置门控能够基于历史信息和当前信息的交互计算得到相应的权重来决定形成此刻挖掘的新用户服务特征，计算公式如下所示：

81、，

82、其中，表示重置门控可以训练的权重矩阵，表示上一时间步的隐状态，表示当前时间步的输入交互数据，表示重置门权重系数，表示矩阵乘法，表示重置门控的偏置项；

83、s3.2：将当前时间步重置门的输出与上一时间隐藏状态进行计算，得到当前时刻的所挖掘得到的候选隐状态，计算公式如下所示：

84、，

85、其中，表示可以训练的权重矩阵，表示当前时间步的候选隐状态，表示候选隐状态的偏置项；

86、s3.3：更新门控能够控制用户服务高维信息隐状态应该如何被包含了当前时间步的输入信息所更新，计算方法如下所示：

87、，

88、其中，表示更新门控可以训练的权重矩阵，表示更新门控的偏置项；

89、s3.4：根据更新门控的输出，结合上一时间步的隐状态和当前时间步的候选隐状态，得到当前时间步的用户服务高维信息隐状态，计算公式如下所示：

90、,

91、其中，表示当前时间步的隐状态。

92、进一步地，qos预测模块的实现过程为：综合了历史qos交互数据的隐状态后，接入全连接神经网络即可进行时间t处的输出运算，计算公式如下所示：

93、，

94、其中，表示输出结果，表示输出层偏置项，relu()表示线性整流函数。

95、本发明的有益效果是：本发明首先对数据集进行处理，针对不同时刻的交互数据，分别进行计算来构建相应的图结构，从而从动态变化的图结构中学习到高维表征进行时序qos预测；然后在邻接图中利用多个图注意力组件来从多个角度挖掘图结构中的用户和服务多个维度的高维表征；利用时序神经元从时间维度进行学习从而发现qos指标变化的时序趋势，综合空间特征和时间特征来提高qos预测的精度；最后使用多层感知机来对时空高维信息进行处理来实现时序预测。因此，本发明能够基于历史调用数据形成的图结构中提取出空间维度层面的高质量的用户、服务特征表达；进而能够综合挖掘空间依赖信息以及时间依赖信息，从而在低稀疏度的情况下实现较高精度的qos预测。