基于时空行为模式的位置预测方法及系统

1.本发明涉及信息预测技术领域，具体是涉及一种基于时空行为模式的位置预测方法及系统。


背景技术：

2.位置预测是一种基于用户过去一段时间内的历史轨迹数据预测未来用户可能出现的位置的技术。通常会用在智能城市、兴趣点推荐、犯罪预测等领域，因此位置预测是当前大数据分析和多媒体应用的一个研究热点。
3.近年来，关于位置预测有大量的研究工作。这些研究工作主要可以分为三大类：基于矩阵分解的方法、基于马尔科夫链的方法、基于深度网络的方法。但是，人的时空轨迹信息具有多元性，比如时间、空间、社会空间，用户在社交网络上留下的记录还包含很多语义文本，可从中提取多元特征。另外，人的行为模式不是一成不变的，不仅仅具有规律，还会存在随机的扰动。因此，位置预测仍然是一项艰巨的任务。


技术实现要素：

4.本发明的目的是为了克服现有的同类算法中数据多元异构和行为随机性的问题，提供一种基于时空行为模式的位置预测方法及系统。
5.第一方面，本技术提供了一种基于时空行为模式的位置预测方法，包括以下步骤：
6.步骤s1、根据用户的历史轨迹数据获取嵌入表达向量；
7.步骤s2、构建多个循环神经网络；
8.步骤s3、获取部分循环神经网络的拼接结果，输入拼接结果到全连接层，获取用户在多个特征空间的长期规律性；
9.步骤s4、获取剩余循环神经网络的隐藏层状态加上注意力机制的输出结果，输入输出结果至全连接层，获取用户时空行为模式的短期随机性；
10.步骤s5、融合处理获取的长期规律性和短期随机性，获取最终的位置预测结果。
11.根据第一方面，在第一方面的第一种可能的实现方式中，所述步骤s1，包括以下步骤：
12.步骤s11、获取用户的历史轨迹数据；
13.步骤s12、获取从历史轨迹数据中提取出的序列信息，所述序列信息包括时间序列、日期序列、地点序列、活动类型序列和文本向量序列；
14.步骤s13、输入序列信息到嵌入层，获取嵌入表达向量。
15.根据第一方面，在第一方面的第二种可能的实现方式中，所述步骤s2，具体包括以下步骤：
16.步骤s20、构建多个循环神经网络，其中，部分循环神经网络的网络长度为m，剩余循环神经网络的长度为n，m和n不等值。
17.根据第一方面的第二种可能的实现方式，在第一方面的第三种可能的实现方式
中，所述步骤s20之后，还包括以下步骤：
18.结合标签构建损失函数模型，通过adam寻优算法优化训练得到优化后的循环神经网络。
19.根据第一方面的第二种可能的实现方式，在第一方面的第四种可能的实现方式中，所述步骤s3，具体包括以下步骤：
20.步骤s31、获取部分循环神经网络的最后一个时间的输出结果的拼接结果；
21.步骤s32、输入拼接结果到全连接层，获取用户在多个特征空间的长期规律性。
22.根据第一方面的第四种可能的实现方式，在第一方面的第五种可能的实现方式中，所述步骤s4，包括以下步骤：
23.步骤s41、加入注意力机制调整剩余神经网络的隐藏层状态值；
24.步骤s42、根据调整后的隐藏层状态值，获取输出结果；
25.步骤s43、输入输出结果至全连接层，获取用户时空行为模式的短期随机性。
26.根据第一方面的第五种可能的实现方式，在第一方面的第六种可能的实现方式中，所述步骤s5，具体包括以下步骤：
27.根据以下公式，融合处理获取的长期规律性和短期随机性，获取最终的位置预测结果：
28.pf＝γ*p
long
(1-γ)*p
short
，
29.其中，p
long
为长期规律性，p
short
为短期随机性。
30.第二方面，本技术提供了一种基于时空行为模式的位置预测系统，包括：
31.嵌入表达向量获取模块，根据用户的历史轨迹数据获取嵌入表达向量；
32.神经网络构建模块，用于构建多个循环神经网络；
33.长期规律性获取模块，与所述嵌入表达向量获取模块和所述神经网络构建模块通信连接，用于获取部分循环神经网络的拼接结果，输入拼接结果到全连接层，获取用户在多个特征空间的长期规律性；
34.短期随机性获取模块，与所述嵌入表达向量获取模块和所述神经网络构建模块通信连接，用于获取剩余循环神经网络的隐藏层状态加上注意力机制的输出结果，输入输出结果至全连接层，获取用户时空行为模式的短期随机性；
35.最终位置结果获取模块，与所述长期规律性获取模块和所述短期随机性获取模块通信连接，用于融合处理获取的长期规律性和短期随机性，获取最终的位置预测结果。
36.根据第二方面，在第二方面的第一种可能的实现方式中，所述嵌入表达向量获取模块，包括：
37.历史轨迹数据获取单元，用于获取用户的历史轨迹数据；
38.序列信息获取单元，与所述历史轨迹数据获取单元通信连接，用于获取从历史轨迹数据中提取出的序列信息，所述序列信息包括时间序列、日期序列、地点序列、活动类型序列和文本向量序列；
39.嵌入表达向量获取单元，与所述序列信息获取单元通信连接，用于输入序列信息到嵌入层，获取嵌入表达向量。
40.根据第二方面，在第二方面的第二种可能的实现方式中，所述长期规律性获取模块包括：
41.拼接结果获取单元，用于获取部分循环神经网络的最后一个时间的输出结果的拼接结果；
42.长期规律性获取单元，与所述拼接结果获取单元通信连接，用于输入拼接结果到全连接层，获取用户在多个特征空间的长期规律性。
43.与现有技术相比，本发明的优点如下：
44.本技术提供的基于时空行为模式的位置预测方法，通过考虑长期规律性和短期随机性，提高位置预测的精度。
附图说明
45.图1是本发明实施例的基于时空行为模式的位置预测方法的方法流程图；
46.图2为本发明实施例的的基于时空行为模式的位置预测方法的另一方法流程图；
47.图3为本发明实施例的基于时空行为模式的位置预测系统的功能模块框图；
48.图4为本发明实施例的基于时空行为模式的位置预测系统的另一功能模块框图。
具体实施方式
49.现在将详细参照本发明的具体实施例，在附图中例示了本发明的例子。尽管将结合具体实施例描述本发明，但将理解，不是想要将本发明限于所述的实施例。相反，想要覆盖由所附权利要求限定的在本发明的精神和范围内包括的变更、修改和等价物。应注意，这里描述的方法步骤都可以由任何功能块或功能布置来实现，且任何功能块或功能布置可被实现为物理实体或逻辑实体、或者两者的组合。
50.为了使本领域技术人员更好地理解本发明，下面结合附图和具体实施方式对本发明作进一步详细说明。
51.注意：接下来要介绍的示例仅是一个具体的例子，而不作为限制本发明的实施例必须为如下具体的步骤、数值、条件、数据、顺序等等。本领域技术人员可以通过阅读本说明书来运用本发明的构思来构造本说明书中未提到的更多实施例。
52.位置预测是当前大数据分析和多媒体应用的一个研究热点，现有的位置预测研究工作主要分为基于矩阵分解的方法、基于马尔科夫链的方法、基于深度网络的方法三大类，但是现有的同类算法中存在数据多元异构和行为随机性的问题，导致位置预测精度不高。
53.参见图1所示，本发明实施例提供一种基于时空行为模式的位置预测方法及系统，包括以下步骤：
54.步骤s1、根据用户的历史轨迹数据获取嵌入表达向量；
55.步骤s2、构建多个循环神经网络；
56.步骤s3、获取部分循环神经网络的拼接结果，输入拼接结果到全连接层，获取用户在多个特征空间的长期规律性；
57.步骤s4、获取剩余循环神经网络的隐藏层状态加上注意力机制的输出结果，输入输出结果至全连接层，获取用户时空行为模式的短期随机性；
58.步骤s5、融合处理获取的长期规律性和短期随机性，获取最终的位置预测结果。
59.本技术提供的基于时空行为模式的位置预测方法，通过考虑长期规律性和短期随机性，提高位置预测的精度。
60.在一实施例中，请参考图2，所述步骤s1，包括以下步骤：
61.步骤s11、获取用户的历史轨迹数据即用户的时空行为模式数据集，包括用户的id、时间信息、日期信息、地点id、地点的经纬度坐标、活动类型等信息；
62.步骤1所述用户的时空行为模式数据集包括：用户的id，时间信息，日期信息，地点id，地点的经纬度坐标，活动类型等信息。
63.获取用户的历史轨迹数据，对每个用户u，其历史轨迹数据表示为其中，其中表示在t时刻的单次记录,表示在t时刻的单次记录,对应元素分别表示用户信息，地点的经纬度坐标，日期，小时，活动类型，地点和时间戳。
64.步骤s12、获取从历史轨迹数据中提取出的序列信息，获取用户多特征空间的轨迹信息，所述序列信息包括时间序列、日期序列、地点序列、活动类型序列和文本向量序列。
65.历史轨迹数据中提取从t1时刻到tn时刻构成的时间序列，日期序列，地点序列，活动类型序列和文本向量序列，分别表示为g，d，l，c，x。具体地，每个时刻由不同特征组成文本向量x＝{d,g,c,l,t
tr
,geo
tr
},t
tr
,geo
tr
分别表示两个签到点之间的时间间隔和地理距离，从t1时刻到tn时刻构成的序列表示为x。
66.步骤s13、输入序列信息到嵌入层，获取嵌入表达向量。
67.在一较具体实施例中，输入g，d，l，c，x，分别对应的输出表示为eg，ed，e
l
，ec，e
x
。
68.在一实施例中，所述步骤s2，具体包括以下步骤：
69.步骤s20、构建多个循环神经网络，其中，部分循环神经网络的网络长度为m，剩余循环神经网络的长度为n，m和n不等值。
70.在一较具体实施例中，构建5个循环神经网络，分别标记为标记为network1，network2，network3，network4，network5，其中network5的长度为m，network1，network2，network3，network4是四个相同的网络长度均为n。
71.在一实施例中，所述步骤s20之后，还包括以下步骤：
72.结合标签构建损失函数模型，通过adam寻优算法优化训练得到优化后的循环神经网络。
73.根据第一方面的第二种可能的实现方式，在第一方面的第四种可能的实现方式中，所述步骤s3，具体包括以下步骤：
74.步骤s31、获取部分循环神经网络的最后一个时间的输出结果的拼接结果；
75.步骤s32、输入拼接结果到全连接层，获取用户在多个特征空间的长期规律性。
76.在一实施例中，所述步骤s31之前，还具体包括以下步骤：
77.将嵌入表达向量将嵌入表达eg，ed，e
l
，ec，e
x
分别输入到network1，network2，network3，network4，network5。其中，network1的隐藏层迭代过程为：
[0078][0079][0080][0081]
[0082][0083]
其中，在ti时刻，输入为隐藏层状态为输出为r和z分别表示循环神经网络gru的重置门和更新门在ti时刻的状态值，σ表示sigmod函数，tanh表示激活函数；wr，wz，w，wo是需要学习的参数；我们取最后一个时刻的隐藏层作为网络模块最后的输出结果。network1，network2，network3，network4的网络结构相同，区别在于输入和输出的不同，输出结果分别表示为pg，pd，p
l
，pc。
[0084]
在一较具体实施例中，所述步骤s31，具体实现为：
[0085]
将network1，network2，network3，network4的最后一个时刻tn输出结果拼接成一个整体，即为用户长期的行为规律p
long
＝[pg,pd,p
l
,pc]。
[0086]
在一实施例中，所述步骤s4，包括以下步骤：
[0087]
步骤s41、加入注意力机制调整剩余神经网络的隐藏层状态值；
[0088]
步骤s42、根据调整后的隐藏层状态值，获取输出结果；
[0089]
步骤s43、输入步骤s42的输出结果至全连接层，获取用户时空行为模式的短期随机性。
[0090]
如上所述，所述全连接层为fully connected layer，在神经网络中全连接层的核心操作为矩阵向量乘积，即y＝wx，全连接层的作用主要是将特征空间线性变换到另一特征空间，相当于分类器的作用。
[0091]
在一实施例中，所述步骤s4具体实现为：
[0092]
将network5的隐藏层加入注意力机制，network5的隐藏层迭代过程与network1相同，区别在于网络模块的长度不同，并且对于network5加入注意力机制调整network5循环神经网络隐藏层状态值注意力机制的权重计算具体公式为：
[0093][0094][0095]
x(ti)’＝α(ti)
t
·
x(ti)；
[0096][0097]
需要注意的是是通过计算得到的。其中，tanh表示激活函数，w
short
，w
s1
，w
s2
，w
s3
，b
s1
，b
s2
是需要训练的参数，d
x
表示文本向量x的维度，表示注意力机制加入后隐藏层状态对应的权重，比如，数据特征x的维度是d
x
，那么x(ti)’＝α(ti)
t
·
x(ti)表示将特征x的每一维特征值分别赋予一个权重从而得到新的特征向量，t为时间或周期。x(ti)’表示加入注意力机制后更新的文本向量,表示ti时刻的输出。最后的输出为引入注意力机制更新后最后一个时刻tm的输出，记为p
short
。
[0098]
在一实施例中，所述步骤s5，具体包括以下步骤：
access memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是，计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。
[0117]
基于同一发明构思，本技术实施例还提供一种电子设备，包括存储器和处理器，存储器上储存有在处理器上运行的计算机程序，处理器执行计算机程序时实现上述方法中的所有方法步骤或部分方法步骤。
[0118]
所称处理器可以是中央处理单元(central processing unit，cpu)，还可以是其他通用处理器、数字信号处理器(digital signal processor，dsp)、专用集成电路(application specific integrated circuit，asic)、现成可编程门阵列(field-programmable gate array，fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等，处理器是计算机装置的控制中心，利用各种接口和线路连接整个计算机装置的各个部分。
[0119]
存储器可用于存储计算机程序和/或模块，处理器通过运行或执行存储在存储器内的计算机程序和/或模块，以及调用存储在存储器内的数据，实现计算机装置的各种功能。存储器可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(例如声音播放功能、图像播放功能等)；存储数据区可存储根据手机的使用所创建的数据(例如音频数据、视频数据等)。此外，存储器可以包括高速随机存取存储器，还可以包括非易失性存储器，例如硬盘、内存、插接式硬盘，智能存储卡(smart media card，smc)，安全数字(secure digital，sd)卡，闪存卡(flash card)、至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
[0120]
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、服务器或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器和光学存储器等)上实施的计算机程序产品的形式。
[0121]
本发明是参照根据本发明实施例的方法、设备(系统)、服务器和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
[0122]
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
[0123]
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或
其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
[0124]
显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。