一种预测模型的训练方法、信息推送的方法及装置与流程

1.本说明书涉及互联网技术领域，尤其涉及一种预测模型的训练方法、信息推送的方法及装置。


背景技术：

2.随着网络技术的发展，网络信息的数据量已经呈现出了爆发式增长的特性。如此，为了使得用户能够更快速轻松地获取到自身感兴趣的信息，当前业务平台通常会针对每个用户，根据用户偏好、信息展示环境(如手机型号，账号登录环境等)等信息，向该用户推送信息。
3.目前，业务平台在向用户推送信息时，利用预先训练的预测模型，根据用户偏好、以及推送信息的展示环境，预测需要向用户推送的各信息对应的点击率，并基于预测出的点击率，向用户推送信息。
4.但是，在不同的推送场景中向用户推送同一信息时，用户可能会表现出不同的反映。例如，相较于直接在客户端首页界面上向某一用户推送的键盘广告，该用户更可能点击查看在该用户购买电脑的订单生成界面上推送的键盘广告。
5.这样，若是针对每个推送场景分别构建对应的预测模型，则训练数据比较少的推送场景对应的预测模型可能会出现模型训练不充分的情况，导致训练数据比较少的推送场景对应的预测模型输出的预测结果的准确性低。而，若是所有推送场景共同使用一个预测模型，则预测模型会过度拟和训练数据比较多的推送场景，这样，训练数据比较少的推送场景还是会出现预测结果准确性差的问题。
6.如此，如何提升各推送场景下，预测模型输出的预测结果的准确性是亟待解决的问题。


技术实现要素：

7.本说明书提供一种预测模型的训练方法、信息推送的方法及装置，以部分的解决现有技术存在的上述问题。
8.本说明书采用下述技术方案：
9.本说明书提供了一种预测模型的训练方法，预测模型包括每个业务场景对应的子预测层，以及场景权重层，包括：
10.针对每个业务场景，获取该业务场景下的目标训练样本，所述目标训练样本包括在该业务场景下，向用户推送的历史推送信息以及用户的相关信息；
11.根据所述历史推送信息以及所述相关信息，确定所述目标训练样本在该业务场景下对应的场景特征，以及所述目标训练样本针对所有业务场景下对应的综合特征，以及将该业务场景对应的标识信息输入到所述场景权重层，确定在该业务场景针对所述综合特征进行加权所需的场景权重矩阵；
12.将所述场景特征以及利用所述场景权重矩阵加权后的综合特征输入到该业务场
景对应的子预测层中，得到针对所述历史推送信息的预测点击率；
13.根据所述预测点击率以及所述目标训练样本对应的标签信息，对所述预测模型训练。
14.可选地，每个子预测层对应一个数据预处理层，所述相关信息包括用户的历史业务记录以及用户的属性信息；
15.根据所述历史推送信息以及所述相关信息，确定所述目标训练样本在该业务场景下对应的场景特征，具体包括：
16.根据所述历史业务记录，确定所述用户对应的行为特征，根据所述属性信息，确定所述用户对应的画像特征，以及，根据所述历史推送信息，确定所述历史推送信息对应的推送信息特征；
17.将所述行为特征、所述画像特征以及所述推送信息特征进行拼接，得到所述目标训练样本对应的样本特征；
18.将所述样本特征输入到该业务场景下子预测层对应的数据预处理层中，得到所述场景特征。
19.可选地，将所述样本特征输入到该业务场景下子预测层对应的数据预处理层中，得到所述场景特征，具体包括：
20.将所述样本特征输入到该业务场景下子预测层对应的数据预处理层中，以使所述数据预处理层，根据该业务场景下的目标训练样本所满足的第一样本分布，对所述样本特征进行归一化处理，得到所述场景特征，所述第一样本分布是所述数据预处理层根据已输入的目标训练样本学到的。
21.可选地，所述预测模型还包括有共享数据预处理层，所述相关信息包括用户的历史业务记录以及用户的属性信息；
22.根据所述历史推送信息以及所述相关信息，确定所述目标训练样本针对所有业务场景下对应的综合特征，具体包括：
23.根据所述历史业务记录，确定所述用户对应的行为特征，根据所述属性信息，确定所述用户对应的画像特征，以及根据所述历史推送信息、确定所述历史推送信息对应的推送信息特征；
24.对所述行为特征、所述画像特征以及所述推送信息特征进行拼接，得到所述目标训练样本对应的样本特征；
25.将所述样本特征输入到所述共享数据预处理层中，得到所述综合特征。
26.可选地，将所述样本特征输入到所述共享数据预处理层中，得到所述综合特征，具体包括：
27.将所述样本特征输入到所述共享数据预处理层中，以使所述共享数据预处理层，根据所有业务场景下的目标训练样本所满足的第二样本分布，对所述样本特征进行归一化处理，得到所述综合特征，所述第二样本分布，是所述共享数据预处理层在不区分业务场景的条件下，根据已输入的目标训练样本学到的。
28.可选地，所述预测模型还包括：共享预测层；
29.根据所述预测点击率以及所述目标训练样本对应的标签信息，对所述预测模型训练，具体包括：
30.获取经过预先训练的所述共享预测层对应的第一网络参数，以及该业务场景对应的子预测层对应的第二网络参数，所述共享预测层，是通过训练样本在所述共享预测层下的预测点击率与所述训练样本对应的标签信息之间的偏差，训练得到的；
31.并根据所述第一网络参数和所述第二网络参数，确定经过预先训练的所述共享预测层与该业务场景对应的子预测层之间的参数偏差；
32.以最小化所述参数偏差，以及所述目标训练样本在该业务场景下的预测点击率与所述目标训练样本对应的标签信息之间偏差为优化目标，对所述预测模型训练。
33.本说明书提供了一种信息推送的方法，预测模型包括每个业务场景对应的子预测层，以及场景权重层，包括：
34.确定在当前业务场景下需要向用户推送的各候选信息，以及获取所述用户的相关信息和所述当前业务场景对应的标识信息；
35.针对每个候选信息，将该候选信息、所述相关信息以及所述标识信息，输入到预先训练的预测模型中，以使所述预测模型根据该候选信息和所述相关信息，确定该候选信息在所述当前业务场景下对应的场景特征，以及该候选信息针对所有业务场景下对应的综合特征，以及将所述标识信息输入到所述场景权重层，确定所述当前业务场景针对所述综合特征进行加权所需的场景权重矩阵，并将所述场景特征以及利用所述场景权重矩阵加权后的综合特征输入到所述当前业务场景对应的子预测层中，得到针对该候选信息的预测点击率，所述预测模型是通过上述训练方法训练得到的；
36.根据各候选信息对应的预测点击率，从各候选信息中选取出向所述用户推送的候选信息，作为目标信息，并将所述目标信息推送给所述用户。
37.本说明书提供了一种预测模型的训练装置，预测模型包括每个业务场景对应的子预测层，以及场景权重层，包括：
38.获取模块，用于获取该业务场景下的目标训练样本，所述目标训练样本包括在该业务场景下，向用户推送的历史推送信息以及用户的相关信息；
39.确定模块，用于根据所述历史推送信息以及所述相关信息，确定所述目标训练样本在该业务场景下对应的场景特征，以及所述目标训练样本针对所有业务场景下对应的综合特征，以及将该业务场景对应的标识信息输入到所述场景权重层，确定该业务场景下针对所述综合特征进行加权所需的场景权重矩阵；
40.预测模块，用于将所述场景特征以及利用所述场景权重矩阵加权后的综合特征输入到该业务场景对应的子预测层中，得到针对所述历史推送信息的预测点击率；
41.训练模型，用于根据所述预测点击率以及所述目标训练样本对应的标签信息，对所述预测模型训练。
42.本说明书提供了一种信息推送的装置，预测模型包括每个业务场景对应的子预测层，以及场景权重层，包括：
43.数据获取模块，用于确定在当前业务场景下需要向用户推送的各候选信息，以及，获取所述用户的相关信息和所述当前业务场景对应的标识信息；
44.预测模块，用于针对每个候选信息，将该候选信息、所述相关信息以及所述标识信息，输入到预先训练的预测模型中，以使所述预测模型，根据该候选信息和所述相关信息，确定该候选信息在所述当前业务场景下对应的场景特征，以及该候选信息针对所有业务场
景下对应的综合特征，以及将所述标识信息输入到所述预测模型中的场景权重层，确定所述当前业务场景针对所述综合特征进行加权所需的场景权重矩阵，并将所述场景特征以及利用所述场景权重矩阵加权后的综合特征输入到所述当前业务场景对应的子预测层中，得到针对该候选信息的预测点击率，所述预测模型是通过上述训练方法训练得到的；
45.推送模块，用于根据各候选信息对应的预测点击率，从各候选信息中选取出向所述用户推送的候选信息，作为目标信息，并将所述目标信息推送给所述用户。
46.本说明书提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述预测模型的训练方法以及信息推送的方法。
47.本说明书提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述预测模型的训练方法以及信息推送的方法。
48.本说明书采用的上述至少一个技术方案能够达到以下有益效果：
49.在本说明书提供的预测模型的训练方法以及信息推送的方法中，预测模型包括每个业务场景对应的子预测层，以及场景权重层。针对每个业务场景，根据向用户推送的历史推送信息以及用户的相关信息，确定目标训练样本在该业务场景下对应的场景特征，以及目标训练样本针对所有业务场景下对应的综合特征，同时，将该业务场景对应的标识信息输入到场景权重层，确定该业务场景针对综合特征进行加权所需的场景权重矩阵。而后，将场景特征以及利用场景权重矩阵加权后的综合特征输入到该业务场景对应的子预测层中，得到针对该历史推送信息的预测点击率，而后，根据该预测点击率以及目标训练样本对应的标签信息，对预测模型训练。这样，向用户推送信息时，针对每个候选信息，将在当前业务场景下需要向用户推送的该候选信息、用户的相关信息以及当前业务场景对应的标识信息，输入到预先训练的预测模型中，以通过该预测模型确定出针对该候选信息的预测点击率，并根据各候选信息对应的预测点击率，从各候选信息中选取出向用户推送的候选信息，作为目标信息，并将该目标信息推送给用户。
50.从上述方法中可以看出，本方法训练预测模型时，将目标训练样本在该业务场景下对应的场景特征，以及目标训练样本针对所有业务场景下对应的综合特征，同时作为该业务场景子对应的子预测层的输入项，并且在综合特征输入到该子预测层前，利用场景权重层学习到的该业务场景下针对综合特征进行加权所需的场景权重矩阵，对综合特征进行加权，使得该子预测层可以利用通过场景权重矩阵从综合特征中强化出的目标训练样本在该业务场景下所具备的特征，来辅助预测目标训练样本对应的预测点击率，提高了预测模型输出的预测结果的准确性以及业务效率。
附图说明
51.此处所说明的附图用来提供对本说明书的进一步理解，构成本说明书的一部分，本说明书的示意性实施例及其说明用于解释本说明书，并不构成对本说明书的不当限定。在附图中：
52.图1a为现有技术中的一种预测模型的结构示意图；
53.图1b为本说明书中提供的预测模型的结构示意图；
54.图2为本说明书中一种预测模型的训练方法的流程示意图；
55.图3为本说明书中一种信息推送的方法的流程示意图；
56.图4为本说明书中一种预测模型的训练装置的示意图；
57.图5为本说明书中一种信息推送的装置的示意图；
58.图6为本说明书提供的对应于图2或图3的电子设备示意图。
具体实施方式
59.为使本说明书的目的、技术方案和优点更加清楚，下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本说明书保护的范围。
60.目前，业务平台一般会在多种不同的业务场景中向用户推送信息。例如，在应用程序(application，app)或客户端的开启界面向用户推送热销商品。再例如，在用户下单后的订单展示界面向用户推送用户可能喜欢的商品。而业务平台在每个业务场景下向用户推送信息时，会针对需要向用户推送的每个信息，预测用户点击该信息的预测点击率，并根据各信息对应的预测点击率，从所有的信息中选取出向用户推送的信息，并推送给用户。
61.针对多个业务场景进行联合建模，作为提高预测模型输出结果的准确性的一种思路被提出。目前，如图1a所示，多场景联合构建出的预测模型主要由所有业务场景共用的共享预测层，和针对每个业务场景独立设置的子预测层构成。在每个业务场景下预测点击率时，针对每个需要向用户推送的信息，利用共享预测层确定在不区分场景的条件下针对该信息的预测点击率，同时利用该业务场景对应的子预测层确定该业务场景下针对该信息的预测点击率。而后，根据这两种预测层输出的预测点击率，确定用户针对该信息的预测点击率。
62.此时，对于训练数据较少的业务场景来说，该共享预测层仍然存在过度拟和训练数据多的业务场景的可能，进而可能导致训练数据少的业务场景对应的预测结果不够准确。
63.为了解决上述问题，本说明书中提供一种预测模型，如图1b所示，该预测模型中预测模型包括每个业务场景对应的子预测层(即图1b中的预测网络
‑
a、预测网络
‑
b)，以及场景权重层。针对每个业务场景，利用该业务场景对应的子预测层来预测点击率时，确定在当前业务场景下需要向用户推送的各候选信息，以及获取用户的相关信息和当前业务场景对应的标识信息。而后，针对每个候选信息，将该候选信息、用户的相关信息以及标识信息，输入到预先训练的预测模型中，由该预测模型根据该候选信息和相关信息，确定向用户推送该候选信息在当前业务场景下对应的场景特征(即图1中的场景a
‑
场景特征、场景b
‑
场景特征)，以及向用户推送该候选信息针对所有业务场景下对应的综合特征。
64.同时，由场景权重层根据将标识信息，确定当前业务场景针对综合特征进行加权所需的场景权重矩阵。随后，使用该场景权重矩阵对该综合特征进行加权处理，并将该场景特征以及加权后的综合特征输入到当前业务场景对应的子预测层中，得到针对该候选信息的预测点击率。最后，根据得到的各候选信息对应的预测点击率，选取出向用户推送的目标信息，并推送给用户。这样，可以使用加权后的综合特征，来辅助预测目标训练样本对应的预测点击率，提高了预测模型输出的预测结果的准确性，提高了业务效率。
65.下面将结合实施例详细阐述本说明书中提供的预测模型的训练方案以及利用训练得到的预测模型进行信息推送的技术方案。
66.图2为本说明书中一种预测模型的训练方法的流程示意图，具体包括以下步骤：
67.步骤s200，针对每个业务场景，获取该业务场景下的目标训练样本，所述目标训练样本包括在该业务场景下，向用户推送的历史推送信息以及用户的相关信息。
68.本说明书中的预测模型的训练方法以及信息推送的方法的执行主体可以是服务器或业务平台，也可以是诸如台式电脑等终端设备，为了便于描述，下面将仅以业务平台为执行主体，对本说明书提供的预测模型的训练方法以及信息推送的方法进行说明。
69.本说明书中，预测模型可以应用在多种业务中。例如，在新闻资讯平台中，预测用户针对推送的新闻资讯或广告的点击率，并根据预测出的点击率，向用户推送新闻资讯或广告。再例如，在网络购物平台中，预测用户针对推送的商品、主题活动或其他用户评论的点击率，并根据预测出的点击率，向用户推送商品、主题活动或其他用户评论。实际业务中，能够向用户推送信息的业务是多种多样的，不同的业务中，可以向用户推送的推送信息也是多种多样的，本说明书中难以穷举，故在此就不一一举例了。
70.上述业务场景，可以指在同一业务中，业务平台通过用户的(如手机、平板电脑等)终端设备上的应用程序(application，app)或客户端，向用户推送信息的业务板块。例如，在app或客户端可以向用户展示不同业务板块的信息，每个业务板块中展示的信息，可以看作是不同业务场景所展示的信息。再例如，在实际应用中，业务平台向用户推荐的商品信息、商家信息或是评论信息属于不同类型的推荐信息，所以，商品推荐、商家推荐以及评论信息推荐，可以视作是不同的业务场景。
71.在实际应用中，业务平台向用户推送信息的业务场景多种多样的，且每个业务场景都是预先设定好的，每个业务场景将对应配置有唯一的标识信息，该标识信息可以是该业务场景对应的唯一编码(identity document，id)。
72.如此，业务平台可以根据业务场景对应的标识信息，针对每个业务场景，获取历史上该业务场景下向各用户推送的历史推送信息，以及各用户的相关信息，构建目标训练样本，而后，在对预测模型进行训练时，获取针对各业务场景构建的目标训练样本，来对预测模型训练。每个目标训练样本中的用户的相关信息，包括但不限于用户的历史业务记录以及用户的属性信息。历史业务记录中记录了用户已执行过的各项业务的业务记录。属性信息可以是指能够体现出用户个人基本特性的信息，如，用户的属性信息可以包括：用户年龄、用户性别、用户所在的城市、用户籍贯等等，在此就不详细说明了。
73.步骤s202，根据所述历史推送信息以及所述相关信息，确定所述目标训练样本在该业务场景下对应的场景特征，以及所述目标训练样本针对所有业务场景下对应的综合特征，以及，将该业务场景对应的标识信息输入到所述场景权重层，确定该业务场景针对所述综合特征进行加权所需的场景权重矩阵。
74.具体实施中，业务平台首先根据用户的历史业务记录，确定用户对应的行为特征，根据用户的属性信息，确定用户对应的画像特征，以及，根据向用户推送的历史推送信息，确定历史推送信息对应的推送信息特征。而后，对行为特征、画像特征以及推送信息特征进行拼接，得到目标训练样本对应的样本特征。最后，根据目标训练样本对应的样本特征，确定目标训练样本在该业务场景下对应的场景特征，以及目标训练样本针对所有业务场景下
对应的综合特征。
75.上述用户对应的行为特征，用于表征用户在历史上所执行过的操作，可以表现出用户的行为偏好。用户对应的画像特征，抽象表征出了用户年龄、用户性别、用户所在的城市、用户籍贯等信息。历史推送信息对应的推送信息特征，抽象表征出了向用户推送的历史推送信息对应的文字，格式，图片等信息。上述行为特征、画像特征、推送信息特征均可以通过词嵌入的方式得到。
76.具体的，业务平台确定用户对应的行为特征时，从用户的历史业务记录中，确定出用户已经执行过的各历史事件，而后，根据各历史事件对应的发生时间先后顺序，对各历史事件进行排序，得到排序结果，再根据该排序结果，以及各历史事件对应的历史事件信息，生成用户对应的用户行为序列，最后，基于用户行为序列，确定用户对应的行为特征。
77.其中，历史事件可以包括历史搜索事件、历史点击事件、历史下单事件中的至少一种。历史事件对应的历史事件信息包括用户执行该历史事件时所对应的相关业务数据，该历史事件对应的历史事件信息，至少可以包括该历史事件发生时的时间信息、该历史事件发生时的业务环境信息、该历史事件所涉及到的信息的标识等等。
78.进一步地，该历史事件发生时的业务环境信息，指的是向用户推送信息时用户所处的环境以及推送信息的展示环境，该业务环境信息至少可以包括用户执行该历史事件时所使用的终端设备的型号、用户执行该历史事件时登录业务平台的登录方式(如小程序登录、app登录、网页端登录等)、用户执行该历史事件时所处的时间段等信息。
79.例如，在网络购物平台上向用户推送商品，则上述历史事件可以包括历史下单事件(用户历史上购置商品的事件，该历史下单事件的历史事件信息中至少包括事件发生时间、用户购买的商品的标识，用户购买的商品所属的商品类别、该历史事件发生时的业务环境信息等信息)、历史搜索事件(该历史搜索事件的历史事件信息中至少包括事件发生时间、用户搜索时使用的搜索请求商品关键词，搜索请求对应的商品搜索结果、用户点击查看了哪些商品搜索结果、该历史事件发生时的业务环境信息等信息)、在该业务场景发生的历史点击事件(该历史点击事件的历史事件信息中至少包括事件发生时间、用户点击查看的商品的标识、用户点击查看的商品所属的商品类别、该历史事件发生时的业务环境信息等信息)中的至少一个。
80.实际应用中，业务平台可以根据实际需求，设定历史事件对应的历史事件信息所包含的信息。
81.而后，业务平台将对行为特征、画像特征以及推送信息特征进行拼接，得到目标训练样本对应的样本特征，并针对该样本特征进行数据处理，得到目标训练样在该业务场景下对应的场景特征，以及目标训练样针对所有业务场景下对应的综合特征。该目标训练样在该业务场景下对应的场景特征，用于表征在该业务场景下的目标训练样本所具备的独有特征。目标训练样本针对所有业务场景下对应的综合特征，用于表征所有业务场景下的目标训练样本之间的所具备的共性特征。
82.业务平台确定目标训练样本对应的场景特征时，将目标训练样本的样本特征输入到该业务场景下子预测层对应的数据预处理层中，由该数据预处理层，根据该业务场景下的目标训练样本所满足的第一样本分布，对样本特征进行归一化处理，得到目标训练样本在该业务场景下对应的场景特征。其中，该第一样本分布是该数据预处理层根据已输入的
目标训练样本学到的。该第一样本分布能够在目标训练样本对应的点击率上体现出来。业务平台，使用该第一样本分布对样本特征进行归一化处理，可以降低当前批次输入的目标训练样本与之前所有已输入的目标训练样本之间差异，进而可以提高预测模型对各批次目标训练样本之间的共性的学习速度。
83.与此同时，业务平台确定目标训练样本对应的综合特征时，将目标训练样本对应的样本特征输入到共享数据预处理层中，由该共享数据预处理层，根据所有业务场景下的目标训练样本所满足的第二样本分布，对该样本特征进行归一化处理，得到目标训练样本针对所有业务场景下对应的综合特征。其中，第二样本分布，是共享数据预处理层在不区分业务场景的条件下根据已输入的目标训练样本学到的。业务平台，使用该第二样本分布对样本特征进行归一化处理，可以降低当前批次输入的目标训练样本与之前所有已输入的目标训练样本之间差异，进而可以提高预测模型对所以业务场景下输入的目标训练样本之间的共性的学习速度。
84.在本说明书中，各业务场景共用一个场景权重层。而上述预测模型在未进行训练时，将任意一个业务场景对应的标识信息输入到场景权重层后，得到的可以是一个统一、初始化的场景权重矩阵。即，此时场景权重层还没有学习到不同业务场景对应的标识信息在不同业务场景下所应体现出的场景特征。但是，通过大量训练样本的不断训练，场景权重层最终可以学习到不同业务场景对应的标识信息在不同业务场景下所具备的场景特征。此时，将不同的业务场景对应的标识信息输入到场景权重层中，得到的场景权重矩阵也是不同的。
85.业务平台使用场景权重层输出的该业务场景对应的场景权重矩阵对综合特征进行加权后，可以将该业务场景的特征从综合特征中强化出来。所以，该业务场景对应的子预测层，使用该业务场景所对应的场景特征，来预测该业务场景下推送信息对应的预测点击率的同时，可以使用基于场景权重矩阵从综合特征强化出的该业务场景所具备特征，来辅助预测该推荐信息的预测点击率。
86.这样，对于训练阶段训练样本较少的业务场景来说，由于该业务场景的子预测层还会结合基于所有业务场景下所确定出的综合特征，来进行预测，这就使得最终得到的预测点击率在综合所有业务场景的情况下，准确率不至于过低。而对于训练阶段训练样本较多的业务场景来说，通过该业务场景下的场景权重矩阵，对综合特征进行加权，可以进一步地在综合特征中突显出该业务场景的特点，降低了综合特征中所体现出的其他业务场景的特点所带来的干扰，从而保证预测模型针对该业务场景输出的预测结果的准确率。
87.步骤s204，将所述场景特征以及利用所述场景权重矩阵加权后的综合特征输入到该业务场景对应的子预测层中，得到针对所述历史推送信息的预测点击率。
88.步骤s206，根据所述预测点击率以及所述目标训练样本对应的标签信息，对所述预测模型训练。
89.具体实施中，业务平台首先使用确定出的场景权重系数，对综合特征进行加权，得到加权后的综合特征，而后，将场景特征和调整后的综合特征，输入到该业务场景对应的子预测层中，得到该训练样本中的用户针对该历史推送信息的预测点击率。接着，业务平台，以最小化该预测点击率和该训练样本对应的标签信息之间的偏差为优化目标，对预测模型训练。
90.本说明书中，针对每个目标训练样本，可以根据用户是否点击了向用户推送的历史推送信息，确定该目标训练样本的对应的标签信息，若用户点击了历史推送信息，该目标训练样本的对应的标签信息为1，若用户没有点击历史推送信息，该目标训练样本的对应的标签信息为0。
91.此外，为了提高各业务场景对应的子预测层的泛化能力，以进一步地提高预测模型输出的预测结果的准确性，本说明书中，还可以设置共享预测层，并针对该共享预测层，独立训练出一个所有业务场景共用的预测模型，并根据该共享预测层与各业务场景对应的子预测层之间的参数差异，对预测模型训练。
92.具体的，业务平台获取经过预先训练的共享预测层对应的第一网络参数，以及该业务场景对应的子预测层对应的第二网络参数，而后，根据第一网络参数和第二网络参数，确定经过预先训练的共享预测层与该业务场景对应的子预测层之间的参数偏差，再以最小化该参数偏差，以及目标训练样本在该业务场景下的预测点击率与目标训练样本对应的标签信息之间偏差为优化目标，对预测模型训练。
93.也就是说，需要先训练出所有业务场景共用的共享预测层，这样，训练得到的预测模型，可以在保证各业务场景对应的子预测层输出的预测结果的准确率的同时，将以共享预测层中的第一模型参数的基准，使得各业务场景对应的子预测层中的第二模型参数，向共享预测层中的第一模型参数靠近，从而提高预测模型中各业务场景对应的子预测层的泛化能力，还进一步地提高了模型训练的速度。
94.其中，在训练预测模型时，可以以最小化该参数偏差，和目标训练样本在该业务场景下的预测点击率与目标训练样本对应的标签信息之间偏差的和值为优化目标，对预测模型训练。
95.对上述共享预测层进行训练时，可以对训练样本进行编码并归一化处理后，并输入到共享预测层中，得到训练样本在共享预测层下的预测点击率，再以最小化训练样本在共享预测层下的预测点击率与训练样本对应的标签信息之间的偏差为优化目标对共享预测层进行训练。该训练样本可以是上述目标训练样本，也可以是针对每个业务场景，根据该业务场景下向用户推送的历史推送信息生成的。如此，训练后的共享预测层，可以看作是根据输入到该预测模型中的训练样本，独立训练得到的适用于所有业务场景的预测模型。
96.本说明书中，业务平台确定训练后的共享预测层与该业务场景对应的子预测层之间的参数差异时，可以根据第一网络参数，构建出共享预测层对应的第一参数矩阵，同时根据第二网络参数，构建出该业务场景对应的子预测层对应的第二参数矩阵，而后确定第一参数矩阵和第二参数矩阵之间的矩阵距离，并根据该矩阵距离，确定出训练后的共享预测层与该业务场景对应的子预测层之间的参数差异。其中，该矩阵距离可以直接用于表征训练后的共享预测层与该子预测层之间的参数差异，也可以用对该矩阵距离进行一定的逻辑运算后所得到的计算结果，以此来表征训练后的共享预测层与该子预测层之间的参数差异。
97.本说明书中，业务平台确定业务平台可以在每一轮的模型训练完成后，对训练后的预测模型进行校验，若验证不通过，则继续下一轮次的模型训练，若验证通过，则确定预测模型训练结束。例如，使用验证样本集对训练后的预测模型进行校验，若预测结果准确的验证样本的数量占总验证样本数量的比值大于设定阈值，则确定验证通过，否则，确定不通
过。业务平台也可以在确定模型训练轮次达到设定的次数时，确定预测模型训练结束。其他方式不在一一举例了。
98.针对通过上述训练方法训练得到的预测模型，本说明书中还提供了该预测模型对应的使用方法。
99.图3为本说明书中一种信息推送的方法的流程示意图，具体包括以下步骤：
100.步骤300，确定在当前业务场景下需要向用户推送的各候选信息，以及获取所述用户的相关信息和所述当前业务场景对应的标识信息。
101.本说明书中，不同的业务中需要向用户推送的各候选信息不同。例如，在新闻资讯业务中，该候选信息可以是需要向用户推送的新闻资讯或广告等。在网络购物业务中，该候选信息可以是商品、商家、评论、主题活动等。
102.具体实施中，业务平台可以根据当前时刻用户所拥有的(如手机、平板电脑等)终端上的应用程序(application，app)或客户端的显示界面，确定该显示界面上需要向用户推送信息的业务场景对应的标识信息。而后，业务平台可以根据该标识信息，确定在当前业务场景下需要向用户推送的各候选信息。其中，每个业务场景下，需要向用户推送的候选信息，可以是预先设定的。
103.同时，业务平台还会获取将要推送信息的用户的相关信息，该用户的相关信息可以包括用户的历史业务记录以及用户的属性信息。
104.步骤302，针对每个候选信息，将该候选信息、所述相关信息以及所述标识信息，输入到预先训练的预测模型中，以使所述预测模型根据该候选信息和所述相关信息，确定该候选信息在所述当前业务场景下对应的场景特征，以及该候选信息针对所有业务场景下对应的综合特征，以及将所述标识信息输入到所述场景权重层，确定所述当前业务场景针对所述综合特征进行加权所需的场景权重矩阵，并将所述场景特征以及利用所述场景权重矩阵加权后的综合特征输入到所述当前业务场景对应的子预测层中，得到针对该候选信息的预测点击率。
105.具体实施中，业务平台针对每个候选信息，将该候选信息、用户的相关信息以及当前业务场景对应的标识信息，输入到预先训练的预测模型中，而后，该预测模型根据用户的历史业务记录，确定用户对应的行为特征，根据用户的属性信息，确定用户对应的画像特征，以及根据该候选信息，确定该候选信息对应的候选信息特征。随后，该预测模型对该行为特征、该画像特征以及该候选信息特征进行拼接后，输入当前业务场景所对应的子预测层对应的数据预处理层中，得到该候选信息在该业务场景下对应的场景特征，同时，以及将拼接后的行为特征、画像特征以及候选信息特征输入共享数据预处理层中，得到该候选信息针对所有业务场景下对应的场景特征。
106.同时，该预测模型对该业务场景对应的标识信息进行编码，得到该标识信息对应的标识特征，而后，将该标识特征输入到场景权重层中，得到该业务场景针对综合特征进行加权所需的场景权重矩阵。
107.最后，预测模型根据该场景权重矩阵，对综合特征进行加权，得到加权后的综合特征，并将该场景特征和加权后的综合特征，输入到当前业务场景对应的子预测层中，得到针对该候选信息的预测点击率。
108.步骤306，根据各候选信息对应的预测点击率，从各候选信息中选取出向所述用户
推送的候选信息，作为目标信息，并将所述目标信息推送给所述用户。
109.具体实施中，业务平台确定出每个候选信息对应的预测点击率后，可以根据各候选信息对应的预测点击率的大小，选取出预测点击率最高的候选信息，作为向用户推送的目标信息，并将该目标信息推送给用户。当然，业务平台，也可以从预测点击率大于设定点击率的候选信息中，随机选取出目标信息，并向用户推送。
110.进一步的，候选信息为商品、商家、主题活动或广告等信息时，业务平台在预测点击率的同时，还可以通过同样的方法训练得到转化率预测模型。这样，业务平台，可以根据候选信息对应的预测点击率和候选信息对应的预测转化率，从需要向用户推送的候选信息中，选取出向用户推送的候选信息。
111.例如，业务平台可以在预测转化率不低于设定转化率的候选信息中，选取出预测点击率最高的候选信息，并向用户推送。再例如，业务平台可以从预测点击率不低于设定点击率，且预测转化率不低于设定转化率的候选信息中，选取出设定数目的候选信息，并按照设定的顺序依次向用户展示。
112.再例如，针对预测转化率以及预测点击率，分别设定对应的评分等级，预测转化率越高，评分等级越高，预测点击率越高，评分等级越高，而后，在向用户推送信息时，针对每个候选信息，确定出该候选信息对应的预测点击率对应的评分等级，以及该候选信息对应的预测转化率对应的评分等级，而后根据预测点击率对应的评分等级和预测转化率对应的评分等级的加权综合评分，从需要向用户推送的候选信息中，选取出设定数目的候选信息，并推送给用户。其中，可以设定预测转化率对应的权重系数大于预测点击率对应的权重系数。
113.通过上述步骤，将目标训练样本在该业务场景下对应的场景特征，以及目标训练样本针对所有业务场景下对应的综合特征，同时作为该业务场景子对应的子预测层的输入项，并且在综合特征输入到该子预测层前，利用场景权重层学习到的该业务场景下针对综合特征进行加权所需的场景权重矩阵，对综合特征进行加权，使得该子预测层可以利用通过场景权重矩阵从综合特征中强化出的目标训练样本在该业务场景下所具备的特征，来辅助预测目标训练样本对应的预测点击率，提高了预测模型输出的预测结果的准确性以及业务效率。
114.以上为本说明书的一个或多个实施例提供的预测模型的训练方法、信息推送的方法，基于同样的思路，本说明书还提供了相应的预测模型的训练装置以及信息推送的装置，如图4和5所示。
115.图4为本说明书提供的一种预测模型的训练装置示意图，预测模型包括每个业务场景对应的子预测层，以及场景权重层，具体包括：
116.获取模块400，用于针对每个业务场景，获取该业务场景下的目标训练样本，所述目标训练样本包括在该业务场景下，向用户推送的历史推送信息以及用户的相关信息；
117.确定模块401，用于根据所述历史推送信息以及所述相关信息，确定所述目标训练样本在该业务场景下对应的场景特征，以及所述目标训练样本针对所有业务场景下对应的综合特征，以及将该业务场景对应的标识信息输入到所述场景权重层，确定该业务场景针对所述综合特征进行加权所需的场景权重矩阵；
118.预测模块402，用于将所述场景特征以及利用所述场景权重矩阵加权后的综合特
征输入到该业务场景对应的子预测层中，得到针对所述历史推送信息的预测点击率；
119.训练模块403，用于根据所述预测点击率以及所述目标训练样本对应的标签信息，对所述预测模型训练。
120.可选地，每个子预测层对应一个数据预处理层，所述相关信息包括用户的历史业务记录以及用户的属性信息；
121.所述确定模块401，具体用于根据所述历史业务记录，确定所述用户对应的行为特征，根据所述属性信息，确定所述用户对应的画像特征，以及，根据所述历史推送信息，确定所述历史推送信息对应的推送信息特征；对所述行为特征、所述画像特征以及所述推送信息特征进行拼接，得到所述目标训练样本对应的样本特征；将所述样本特征输入到该业务场景下子预测层对应的数据预处理层中，得到所述场景特征。
122.可选地，所述确定模块401，具体用于将所述样本特征输入到该业务场景下子预测层对应的数据预处理层中，以使所述数据预处理层，根据该业务场景下的目标训练样本所满足的第一样本分布，对所述样本特征进行归一化处理，得到所述场景特征，所述第一样本分布，是所述数据预处理层根据已输入的目标训练样本学到的。
123.可选地，所述预测模型还包括有共享数据预处理层，所述相关信息包括用户的历史业务记录以及用户的属性信息；
124.所述确定模块401，具体用于根据所述历史业务记录，确定所述用户对应的行为特征，根据所述属性信息，确定所述用户对应的画像特征，以及，根据所述历史推送信息、确定所述历史推送信息对应的推送信息特征；将所述行为特征、所述画像特征以及所述推送信息特征进行拼接，得到所述目标训练样本对应的样本特征；将所述样本特征输入到所述共享数据预处理层中，得到所述综合特征。
125.可选地，所述确定模块401，具体用于将所述样本特征输入到所述共享数据预处理层中，以使所述共享数据预处理层，根据所有业务场景下的目标训练样本所满足的第二样本分布，对所述样本特征进行归一化处理，得到所述综合特征，所述第二样本分布，是所述共享数据预处理层在不区分业务场景的条件下，根据已输入的目标训练样本学到的。
126.可选地，所述预测模型还包括：共享预测层；
127.所述训练模块403，具体用于获取经过预先训练的所述共享预测层对应的第一网络参数，以及该业务场景对应的子预测层对应的第二网络参数，所述共享预测层，是通过训练样本在所述共享预测层下的预测点击率与所述训练样本对应的标签信息之间的偏差，训练得到的；根据所述第一网络参数和所述第二网络参数，确定经过预先训练的所述共享预测层与该业务场景对应的子预测层之间的参数偏差；以最小化所述参数偏差，以及所述目标训练样本在该业务场景下的预测点击率与所述目标训练样本对应的标签信息之间偏差为优化目标，对所述预测模型训练。
128.图5为本说明书提供的一种信息推送的装置示意图，预测模型包括每个业务场景对应的子预测层，以及场景权重层，具体包括：
129.数据获取模块500，用于确定在当前业务场景下需要向用户推送的各候选信息，以及获取所述用户的相关信息和所述当前业务场景对应的标识信息；
130.预测模块501，用于针对每个候选信息，将该候选信息、所述相关信息以及所述标识信息，输入到预先训练的预测模型中，以使所述预测模型根据该候选信息和所述相关信
息，确定该候选信息在所述当前业务场景下对应的场景特征，以及该候选信息针对所有业务场景下对应的综合特征，以及将所述标识信息输入到所述场景权重层，确定所述当前业务场景针对所述综合特征进行加权所需的场景权重矩阵，并将所述场景特征以及利用所述场景权重矩阵加权后的综合特征输入到所述当前业务场景对应的子预测层中，得到针对该候选信息的预测点击率，所述预测模型是通过上述方法训练得到的；
131.推送模块502，用于根据各候选信息对应的预测点击率，从各候选信息中选取出向所述用户推送的候选信息，作为目标信息，并将所述目标信息推送给所述用户。
132.本说明书还提供了一种计算机可读存储介质，该存储介质存储有计算机程序，计算机程序可用于执行上述图1提供的预测模型的训练方法以及信息推送的方法。
133.本说明书还提供了图6所示的电子设备的示意结构图。如图6所述，在硬件层面，该电子设备包括处理器、内部总线、网络接口、内存以及非易失性存储器，当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，以实现上述图2所述的预测模型的训练方法或图3所示的信息推送的方法。当然，除了软件实现方式之外，本说明书并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。在20世纪90年代，对于一个技术的改进可以很明显地区分是硬件上的改进(例如，对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而，随着技术的发展，当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此，不能说一个方法流程的改进就不能用硬件实体模块来实现。例如，可编程逻辑器件(programmable logic device,pld)(例如现场可编程门阵列(field programmable gate array，fpga))就是这样一种集成电路，其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片pld上，而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且，如今，取代手工地制作集成电路芯片，这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现，它与程序开发撰写时所用的软件编译器相类似，而要编译之前的原始代码也得用特定的编程语言来撰写，此称之为硬件描述语言(hardware description language，hdl)，而hdl也并非仅有一种，而是有许多种，如abel(advanced boolean expression language)、ahdl(altera hardware description language)、confluence、cupl(cornell university programming language)、hdcal、jhdl(java hardware description language)、lava、lola、myhdl、palasm、rhdl(ruby hardware description language)等，目前最普遍使用的是vhdl(very
‑
high
‑
speed integrated circuit hardware description language)与verilog。本领域技术人员也应该清楚，只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中，就可以很容易得到实现该逻辑方法流程的硬件电路。
134.控制器可以按任何适当的方式实现，例如，控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(application specific integrated circuit，asic)、可编程逻辑控制器和嵌入微控制器的形式，控制器的例子包括但不限于以下微控制器：arc 625d、atmel at91sam、microchip pic18f26k20以及silicone labs c8051f320，存
储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
135.上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
136.为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
137.本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd
‑
rom、光学存储器等)上实施的计算机程序产品的形式。
138.本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
139.这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
140.这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
141.在一个典型的配置中，计算设备包括一个或多个处理器(cpu)、输入/输出接口、网络接口和内存。
142.内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(ram)和/或非易失性内存等形式，如只读存储器(rom)或闪存(flash ram)。内存是计算机可读介质的示例。
143.计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。
计算机的存储介质的例子包括，但不限于相变内存(pram)、静态随机存取存储器(sram)、动态随机存取存储器(dram)、其他类型的随机存取存储器(ram)、只读存储器(rom)、电可擦除可编程只读存储器(eeprom)、快闪记忆体或其他内存技术、只读光盘只读存储器(cd
‑
rom)、数字多功能光盘(dvd)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
144.还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个
……”
限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
145.本领域技术人员应明白，本说明书的实施例可提供为方法、系统或计算机程序产品。因此，本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd
‑
rom、光学存储器等)上实施的计算机程序产品的形式。
146.本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
147.本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
148.以上所述仅为本说明书的实施例而已，并不用于限制本说明书。对于本领域技术人员来说，本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本说明书的权利要求范围之内。