一种模型训练与实体识别方法及装置与流程

1.本说明书涉及命名实体识别技术领域，尤其涉及一种模型训练与实体识别方法及装置。


背景技术：

2.命名实体识别(named entity recognition，ner)技术，即用于识别文本中具有特定意义的实体的技术，包括对实体边界的识别以及对实体类别(人名、地名、机构名等)的识别。
3.在现有技术中，ner模型的训练样本及训练样本的标注与其应用的任务领域密切相关，不同任务领域需要关注的实体的类别不同。受训练样本与标注的影响，应用于不同任务领域的ner模型能够识别的实体的类别不同，类别的分类粒度也不同，一个ner模型只能用于处理固定任务领域的ner任务。当需要在其他任务领域中应用ner模型时，则需要重新训练符合其他任务领域的任务需求的ner模型。
4.然而，训练模型的过程是一个耗费大量的计算资源以及时间的过程，现有技术存在训练ner模型耗时久、效率低、需要消耗大量计算资源的问题。


技术实现要素：

5.本说明书提供一种模型训练与实体识别方法及装置，以部分的解决现有技术存在的上述问题。
6.本说明书采用下述技术方案：
7.本说明书提供了一种模型训练方法，包括：
8.获取文本数据，针对每个文本数据，通过预先训练的通用分类模型，确定该文本数据中各实体以及各实体的通用类别；
9.在预设的与目标领域对应的领域词库中，查询所述各实体在所述目标领域中的类别，作为专用类别；
10.以所述各实体分别作为各训练样本，以各实体的专用类别分别作为各训练样本的标注，将各训练样本以及各训练样本的通用类别输入待训练的专用分类模型，得到所述待训练的专用分类模型对各训练样本在所述目标领域中的专用分类结果；
11.根据各训练样本在所述目标领域中的专用分类结果以及各训练样本的标注，对所述待训练的专用分类模型进行训练，所述专用分类模型用于识别实体在所述目标领域中的类别。
12.可选地，将各训练样本以及各训练样本的通用类别输入待训练的专用分类模型，得到所述待训练的专用分类模型对各训练样本在所述目标领域中的专用分类结果，具体包括：
13.将各训练样本以及各训练样本的通用类别输入待训练的专用分类模型；
14.针对每个训练样本，通过所述待训练的专用分类模型，确定该训练样本的文本特
征以及该训练样本的通用类别对应的类别特征；
15.根据所述文本特征以及所述类别特征，确定该训练样本的融合特征，并根据所述融合特征，确定该训练样本在所述目标领域中的专用分类结果。
16.可选地，根据所述融合特征，确定该训练样本在所述目标领域中的专用分类结果，具体包括：
17.根据所述融合特征，确定该训练样本属于预设的各专用类别的概率；
18.根据该训练样本属于预设的各专用类别的概率，确定该训练样本在所述目标领域中的专用分类结果。
19.可选地，根据所述融合特征，确定该训练样本属于预设的各专用类别的概率，具体包括：
20.根据所述融合特征，确定该训练样本属于预设的各专用类别的分值；
21.根据该训练样本属于预设的各专用类别的分值，确定各专用类别的总分值；
22.针对每个专用类别，根据该专用类别的分值以及所述总分值，确定该训练样本属于该专用类别的概率。
23.可选地，根据各训练样本在所述目标领域中的专用分类结果以及各训练样本的标注，对所述待训练的专用分类模型进行训练，具体包括：
24.针对每个训练样本，根据该训练样本的标注，从预设的各专用类别中确定该训练样本的目标专用类别；
25.根据该训练样本在所述目标领域中的专用分类结果，确定所述目标专用类别对应的概率，作为目标概率；
26.根据各训练样本的目标概率，确定分类损失，并以所述分类损失最小为目标，对所述待训练的专用分类模型进行训练。
27.本说明书提供了一种实体识别方法，包括：
28.获取待识别文本，将所述待识别本输入预训练的通用分类模型，确定所述待识别文本中各实体以及各实体的通用类别；
29.将所述待识别文本中各实体以及各实体的通用类别输入预训练的专用分类模型，确定各实体在目标领域中的类别，作为各实体的专用类别；
30.将所述待识别文本中各实体以及各实体的专用类别，作为所述待识别文本的实体分类结果；
31.所述专用分类模型，通过输入由所述通用分类模型确定出的实体作为的训练样本以及实体的通用类别，根据输出的专用分类结果，与根据所述目标领域对应的领域词库确定出的实体的专用类别作为的标注，训练得到。
32.本说明书提供了一种模型训练装置，包括：
33.通用分类模块，用于针对每个文本数据，通过预先训练的通用分类模型，确定该文本数据中各实体以及各实体的通用类别；
34.专用类别查询模块，用于在预设的与目标领域对应的领域词库中，查询所述各实体在所述目标领域中的类别，作为专用类别；
35.样本生成模块，用于以所述各实体分别作为各训练样本，以各实体的专用类别分别作为各训练样本的标注，将各训练样本以及各训练样本的通用类别输入待训练的专用分
类模型，得到所述待训练的专用分类模型对各训练样本在所述目标领域中的专用分类结果；
36.训练模块，用于根据各训练样本在所述目标领域中的专用分类结果以及各训练样本的标注，对所述待训练的专用分类模型进行训练，所述专用分类模型用于识别实体在所述目标领域中的类别。
37.本说明书提供了一种实体识别装置，包括：
38.获取模块，用于获取待识别文本，将所述待识别本输入预训练的通用分类模型，确定所述待识别文本中各实体以及各实体的通用类别；
39.专用分类模块，用于将所述待识别文本中各实体以及各实体的通用类别输入预训练的专用分类模型，确定各实体在目标领域中的类别，作为各实体的专用类别；
40.实体分类模块，用于将所述待识别文本中各实体以及各实体的专用类别，作为所述待识别文本的实体分类结果，所述专用分类模型，通过输入由所述通用分类模型确定出的实体作为的训练样本以及实体的通用类别，根据输出的专用分类结果，与根据所述目标领域对应的领域词库确定出的实体的专用类别作为的标注，训练得到。
41.本说明书提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述模型训练与命名实体识别方法。
42.本说明书提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述模型训练与命名实体识别方法。
43.本说明书采用的上述至少一个技术方案能够达到以下有益效果：
44.在本说明书提供的模型训练与实体识别方法中，通过预先训练好的通用分类模型，确定文本数据中的各实体，分别作为各训练样本，并确定各实体的通用类别，通过与目标领域对应的领域词库，查询各实体在目标领域中的类别，作为各训练样本的标注。将各训练样本以及各训练样本的通用类别输入待训练的专用分类模型中，确定各训练样本在目标领域中的专用分类结果，以根据各训练样本的专用分类结果及各训练样本的标注，对该专用分类模型进行训练。
45.从上述方法中可以看出，本方法可利用预训练的通用分类模型对专用分类模型进行训练，能够减少训练专用分类模型的时间，节约计算资源。
附图说明
46.此处所说明的附图用来提供对本说明书的进一步理解，构成本说明书的一部分，本说明书的示意性实施例及其说明用于解释本说明书，并不构成对本说明书的不当限定。在附图中：
47.图1为本说明书中一种模型训练方法的流程示意图；
48.图2为本说明书提供的一种模型示意图；
49.图3为本说明书提供的一种实体识别方法的流程示意图；
50.图4为本说明书提供的一种实体识别过程示意图；
51.图5为本说明书提供的一种模型训练装置的示意图；
52.图6为本说明书提供的一种实体识别装置的示意图；
53.图7为本说明书提供的一种电子设备的结构示意图。
具体实施方式
54.为使本说明书的目的、技术方案和优点更加清楚，下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本说明书保护的范围。
55.命名实体识别的目的在于识别文本中各实体以及各实体的类别。在现有技术中，在训练命名实体识别(named entity recognition，ner)模型时，需要将包含若干实体的文本作为训练样本，并将各实体的边界以及类别作为训练样本的标注。根据对实体的边界的标注，训练ner模型对文本中实体的切分。根据对实体的类别的标注，训练ner模型对文本中实体的分类。对实体的边界进行标注，即标注在每个实体中，该实体中每个字的位置，例如对于实体“橘子”，“橘”字则标注为首，“子”字即标注为“尾”。
56.在本说明书中，可采用迁移学习的方法训练用于命名实体识别的模型，用于命名实体识别的模型包括通用分类模型以及专用分类模型，通过利用预先训练好的通用分类模型，对待训练的专用分类模型进行训练。其中，该通用分类模型用于对文本进行切分，确定文本中各实体，并确定文本中各实体的通用类别。该专用分类模型用于识别实体在目标领域中的类别。该目标领域，即需要识别实体在该目标领域中的类别的领域。该通用类别为实体较为通用的，接近人的第一认知的类别。该专用类别为落实到具体的领域，即目标领域，实体在该目标领域中被认知的类别。例如，对于实体“苹果”，其通用类别为水果，假设目标领域为数码设备领域，则其专用类别为电子产品。
57.在本说明书中，基于预先训练的通用分类模型对文本进行切分得到各实体。无需训练专用分类模型对文本中实体进行切分，仅训练专用分类模型对文本中实体的分类。如此，能够减少训练专用分类模型的时间以及消耗的计算资源。并且，由于预先训练的通用分类模型能够对实体进行分类，实体的通用类别与专用类别可能相同或具有相关性，基于通用分类模型输出的各实体的通用类别，结合作为训练样本的实体对专用分类模型进行训练，能够减少对专用分类模型在对实体进行分类，确定实体专用类别方面的训练时间以及计算资源。
58.在本说明书中，实体即将文本进行切分后，每个切分得到的文本片段，例如，对于文本“四星级景区”，其切分结果为“四星级”和“景区”，则“四星级”与“景区”为切分得到的两个实体。
59.在本说明书一个或多个实施例中，对于同一个实体，该实体的通用类别与专用类别可以相同也可以不同。
60.以下结合附图，详细说明本说明书各实施例提供的技术方案。
61.图1为本说明书中一种模型训练方法的流程示意图，具体包括以下步骤：
62.s100：获取文本数据，针对每个文本数据，通过预先训练的通用分类模型，确定该文本数据中各实体以及各实体的通用类别。
63.在本说明书中，该模型训练方法可由服务器执行。
64.在本说明书一个或多个实施例中，在对专用分类模型进行训练时，首先，该服务器
可获取文本数据，并针对每个文本数据，将该文本数据输入预训练的通用分类模型，通过预先训练的通用分类模型，对该文本数据进行切分，确定该文本数据中各实体以及各实体的通用类别。
65.其中，该文本数据可以是从语料库中获取的文本数据，或者，也可以是根据历史上用户的搜索日志(如2年内、1年内、半年内等)确定的文本数据，当然也可以是其他的文本数据，具体可根据需要设置，本说明书在此不做限制。
66.s102：在预设的与目标领域对应的领域词库中，查询所述各实体在所述目标领域中的类别，作为专用类别。
67.在本说明书一个或多个实施例中，可通过预设的领域词库确定各实体在该领域词库对应的目标领域中的类别。
68.具体的，在通过该通用分类模型，确定出文本数据中的各实体以及各实体的通用类别后，该服务器可在预设的与目标领域对应的领域词库中，查询各实体在该目标领域中的类别，作为各实体的专用类别。
69.例如，假设该文本数据中包括实体“橘子”，且根据该领域词库中的记录，该实体在目标领域中的类别为酒店名称，则该实体的专用类别为酒店名称。
70.s104：以所述各实体分别作为各训练样本，以各实体的专用类别分别作为各训练样本的标注，将各训练样本以及各训练样本的通用类别输入待训练的专用分类模型，得到所述待训练的专用分类模型对各训练样本在所述目标领域中的专用分类结果。
71.在本说明书一个或多个实施例中，在确定出该文本数据中的各实体后，该服务器可以以各实体分别作为各训练样本。在确定出各实体的专用类别后，该服务器可将各实体的专用类别分别作为各实体分别对应的训练样本的标注。
72.由于通用分类模型输出的文本数据中各实体的通用类别可能与实体的专用类别相同，或者不同但相关，实体的通用类别可能有助于识别实体的专用类别。
73.因此，在本说明书一个或多个实施例中，该服务器可将各训练样本以及各训练样本的通用类别输入待训练的专用分类模型，得到该待训练的专用分类模型对各训练样本在该目标领域中的专用分类结果。
74.在本说明书一个或多个实施例中，该服务器可针对每个训练样本，将该训练样本以及该训练样本的通用类别输入待训练的专用分类模型，得到该待训练的专用分类模型对该训练样本在该目标领域中的专用分类结果。
75.在本说明书一个或多个实施例中，在确定各训练样本在该目标领域中的专用分类结果时，具体的，该服务器可将各训练样本以及各训练样本的通用类别输入待训练的专用分类模型，并针对每个训练样本，通过待训练的专用分类模型，对该训练样本进行编码，确定该训练样本的文本特征以及对该训练样本的通用类别进行编码，确定该训练样本的通用类别对应的类别特征。之后，该服务器可根据该文本特征以及该类别特征，确定该训练样本的融合特征，并根据得到的融合特征，确定该训练样本在目标领域中的专用分类结果。
76.在本说明书一个或多个实施例中，该服务器可将该文本特征以及类别特征拼接得到该训练样本的融合特征。
77.在本说明书一个或多个实施例中，该服务器可根据得到的融合特征，确定该训练样本属于预设的各专用类别的概率，以根据该训练样本属于预设的各专用类别的概率，确
定该训练样本在目标领域中的专用分类结果。
78.在本说明书一个或多个实施例中，在确定该训练样本属于预设的各专用类别的概率时，具体的，该服务器可根据该融合特征，确定该训练样本属于预设的各专用类别的分值，并根据该训练样本属于预设的各专用类别的分值，确定各专用类别的总分值。之后，该服务器可针对每个专用类别，根据该专用类别的分值以及该总分值，确定该训练样本属于该专用类别的概率。
79.其中，预设的各专用类别与该领域词库中记录的各实体的专用类别对应。
80.在本说明书一个或多个实施例中，可将该训练样本属于该专用类别的分值与该训练样本对应的各专用类别的总分值的比值，作为该训练样本属于该专用类别的概率。
81.在本说明书一个或多个实施例中，可根据该训练样本的融合特征以及该专用分类模型的参数矩阵，确定该训练样本的分值向量，并根据该分值向量确定该训练样本属于预设的各专用类别的分值。其中，该分值向量的维度与预设的各专用类别的数量相同。针对该分值向量中每个维度，该维度的数值表示该训练样本属于该维度对应的专用类别的分值。
82.s106：根据各训练样本在所述目标领域中的专用分类结果以及各训练样本的标注，对所述待训练的专用分类模型进行训练，所述专用分类模型用于识别实体在所述目标领域中的类别。
83.在本说明书一个或多个实施例中，在确定出各训练样本在该目标领域中的专用分类结果之后，该服务器可根据各训练样本在该目标领域中的专用分类结果以及各训练样本的标注，对该待训练的专用分类模型进行训练。
84.其中，该专用分类模型用于识别实体在该目标领域中的类别。
85.基于图1所示的模型训练方法，通过预先训练好的通用分类模型，确定文本数据中的各实体，分别作为各训练样本，并确定各实体的通用类别，通过与目标领域对应的领域词库，查询各实体在目标领域中的类别，作为各训练样本的标注。将各训练样本以及各训练样本的通用类别输入待训练的专用分类模型中，确定各训练样本在目标领域中的专用分类结果，以根据各训练样本的专用分类结果及各训练样本的标注，对该专用分类模型进行训练。
86.从上述方法中可以看出，本方法能够利用预训练的通用分类模型以及领域词表自动生成训练样本及标注，利用预训练的通用分类模型对专用分类模型进行训练，能够减少训练专用分类模型的时间，节约计算资源。
87.另外，在本说明书一个或多个实施例中，在步骤s104中，确定该训练样本在目标领域中的专用分类结果时，该服务器具体可将该训练样本属于预设的各专用类别的概率，作为该训练样本在目标领域中的专用分类结果。
88.在本说明书一个或多个实施例中，该服务器还可以根据该训练样本属于预设的各专用类别的概率，从中确定数值最高的概率，作为结果概率，并将该结果概率以及该结果概率对应的专用类别，作为该训练样本在目标领域中的专用分类结果。
89.在本说明书一个或多个实施例中，确定该训练样本属于各专用类别的分值的公式可具体如下：
90.c＝exp(wh b)
91.其中，c表示由该训练样本的分值向量。h表示该训练样本的融合特征，维度为1
×
(a b)。w与b为该专用分类模型的两个参数矩阵，w的维度为(a b)
×
c，b的维度为1
×
c。a表
示该训练样本的文本特征的维度，b表示该训练样本的通用类别对应的类别特征的维度。c表示预设的专用类别的数量。最终得到的分值向量c的维度为1
×
c，分值向量c中每个维度的数值皆对应一个专用类别的分值。
92.在本说明书一个或多个实施例中，确定该训练样本属于预设的各专用类别的概率的公式可具体如下：
[0093][0094]
其中，h
n
表示该文本数据中第n个训练样本的融合特征，k
j
表示预设的专用类别中第j个专用类别，c
j
表示第n个训练样本属于第j个专用类别的分值，c表示预设的专用类别的数量。p(k
j
|h
n
)表示该文本数据中第n个实体属于第j个专用类别的概率。
[0095]
在本说明书一个或多个实施例中，在步骤s106中，该服务器在对待训练的该专用分类模型进行训练时，可针对每个训练样本，根据该训练样本的标注，从预设的各专用类别中确定该训练样本的目标专用类别，并根据该训练样本在该目标领域中的专用分类结果，确定该目标专用类别对应的概率，作为目标概率。之后，该服务器可根据各训练样本的目标概率，确定分类损失，并以分类损失最小为目标，对该待训练的专用分类模型进行训练。
[0096]
在本说明书一个或多个实施例中，可将与该训练样本的标注对应的专用类别相同的专用类别作为目标专用类别。
[0097]
在本说明书一个或多个实施例中，由于通常模型的训练会分多个epoch训练，在每个epoch中，又会将训练样本分为多个batch，在本说明书中，在确定分类损失，并以分类损失最小为目标，对该待训练的专用分类模型进行训练时，该服务器可针对每个batch确定一次分类损失。
[0098]
在本说明书一个或多个实施例中，确定分类损失的公式可具体如下：
[0099][0100]
其中，loss表示分类损失，l表示一个batch中包含的所有训练样本中实体的总数量，其中，k表示该batch中第i个实体的标注对应的类别，即第i个实体的目标专用类别。h
i
表示第i个实体的融合特征。p(k|h
i
)表示该batch中第i个实体的目标概率。
[0101]
在本说明书一个或多个实施例中，也可以在训练了一个epoch之后确定一次分类损失，当然也可以对多个batch或多个epoch确定一次分类损失，具体可根据需要设置，本说明书在此不做限制。
[0102]
在本说明书一个或多个实施例中，在确定分类损失时，该服务器还可以根据各训练样本的标注以及结果概率对应的专用类别的差异，确定分类损失。
[0103]
图2为本说明书提供的一种模型示意图。如图，用于命名实体识别的模型由通用分类模型以及专用分类模型构成，通用分类模型由第一编码层以及第一解码层构成，专用分类模型由第二编码层以及预测层构成。
[0104]
在本说明书一个或多个实施例中，该第一编码层用于将文本数据进行编码，确定文本数据中每个字(或单词)的语义向量，将该文本数据对应的各语义向量输入第一解码层可得到该文本数据中各实体以及各实体的通用类别。将各实体以及各实体的通用类别输入第二编码层后，该第二编码层用于针对每个实体，确定该实体的文本特征以及类别特征，以
确定融合特征。将该融合特征输入预测层可得到该实体属于预设的各专用类别的概率。
[0105]
在本说明书一个或多个实施例中，该通用分类模型中的第一编码层可具体是基于转换器的双向编码器(bidirectional encoder representation from transformers，bert)编码层，第一解码层可具体是softmax层。该专用分类模型中的第二编码层可具体是卷积神经网络(convolutional neural networks，cnn)。该专用分类模型中的预测层，可具体是softmax层。
[0106]
以上为本说明书的一个或多个实施例提供的模型训练方法。
[0107]
在本说明书一个或多个实施例中，在对该专用分类模型进行训练后，可根据预训练的通用分类模型以及训练后的专用分类模型，对待识别文本进行实体识别。
[0108]
基于与上述模型训练方法同样的思路，本说明书还提供了一种实体识别方法，如图3所示。
[0109]
图3为本说明书提供的一种实体识别方法的流程示意图。具体包括以下步骤：
[0110]
s200：获取待识别文本，将所述待识别本输入预训练的通用分类模型，确定所述待识别文本中各实体以及各实体的通用类别。
[0111]
在本说明书一个或多个实施例中，在进行命名实体识别时，该服务器首先可获取待识别文本，并将待识别文本输入预训练的通用分类模型，通过该通用分类模型对该待识别文本进行切分，确定该待识别文本中各实体以及各实体的通用类别。
[0112]
s202：将所述待识别文本中各实体以及各实体的通用类别输入预训练的专用分类模型，确定各实体在目标领域中的类别，作为各实体的专用类别。
[0113]
在本说明书一个或多个实施例中，该服务器可将待识别文本中各实体以及各实体的通用类别，输入预训练的专用分类模型，以确定各实体在目标领域中的类别，作为各实体的专用类别。
[0114]
s204：将所述待识别文本中各实体以及各实体的专用类别，作为所述待识别文本的实体分类结果；所述专用分类模型，通过输入由所述通用分类模型确定出的实体作为的训练样本以及实体的通用类别，根据输出的专用分类结果，与根据所述目标领域对应的领域词库确定出的实体的专用类别作为的标注，训练得到。
[0115]
在本说明书一个或多个实施例中，该服务器可将该待识别文本中各实体以及各实体的专用类别，作为该待识别文本的实体分类结果。
[0116]
其中，所述专用分类模型，通过输入由所述通用分类模型确定出的实体作为的训练样本以及实体的通用类别，根据输出的专用分类结果，与根据所述目标领域对应的领域词库确定出的实体的专用类别作为的标注，训练得到。
[0117]
图4为本说明书提供的一种实体识别过程示意图。如图，“abcde”表示待识别文本，可见，将该待识别文本输入通用分类模型后，得到该待识别文本中的各实体“ab”、“c”以及“de”，其中“ab/a1”表示实体ab的通用类别为a1，“c/a2”表示实体c的通用类别为a2，“de/a3”表示实体de的通用类别为a3。将切分后的该待识别文本以及该待识别文本中各实体的通用类别输入专用分类模型后，得到各实体的专用类别。可见，实体ab的通用类别与专用类别皆为a1，实体c的专用类别为b2，实体de的专用类别为b3。最终得到的各实体以及各实体的专用类别即该待识别文本的实体分类结果。
[0118]
本说明书还提供了相应的模型训练装置，如图5所示。
[0119]
图5为本说明书提供的一种模型训练装置示意图，该装置包括：
[0120]
通用分类模块300，用于针对每个文本数据，通过预先训练的通用分类模型，确定该文本数据中各实体以及各实体的通用类别；
[0121]
专用类别查询模块301，用于在预设的与目标领域对应的领域词库中，查询所述各实体在所述目标领域中的类别，作为专用类别；
[0122]
样本生成模块302，用于以所述各实体分别作为各训练样本，以各实体的专用类别分别作为各训练样本的标注，将各训练样本以及各训练样本的通用类别输入待训练的专用分类模型，得到所述待训练的专用分类模型对各训练样本在所述目标领域中的专用分类结果；
[0123]
训练模块303，用于根据各训练样本在所述目标领域中的专用分类结果以及各训练样本的标注，对所述待训练的专用分类模型进行训练，所述专用分类模型用于识别实体在所述目标领域中的类别。
[0124]
可选地，所述样本生成模块302，还用于将各训练样本以及各训练样本的通用类别输入待训练的专用分类模型，针对每个训练样本，通过所述待训练的专用分类模型，确定该训练样本的文本特征以及该训练样本的通用类别对应的类别特征，根据所述文本特征以及所述类别特征，确定该训练样本的融合特征，并根据所述融合特征，确定该训练样本在所述目标领域中的专用分类结果。
[0125]
可选地，所述样本生成模块302，还用于根据所述融合特征，确定该训练样本属于预设的各专用类别的概率，根据该训练样本属于预设的各专用类别的概率，确定该训练样本在所述目标领域中的专用分类结果。
[0126]
可选地，所述样本生成模块302，还用于根据所述融合特征，确定该训练样本属于预设的各专用类别的分值，根据该训练样本属于预设的各专用类别的分值，确定各专用类别的总分值，针对每个专用类别，根据该专用类别的分值以及所述总分值，确定该训练样本属于该专用类别的概率。
[0127]
可选地，所述训练模块303，还用于针对每个训练样本，根据该训练样本的标注，从预设的各专用类别中确定该训练样本的目标专用类别，根据该训练样本在所述目标领域中的专用分类结果，确定所述目标专用类别对应的概率，作为目标概率，根据各训练样本的目标概率，确定分类损失，并以所述分类损失最小为目标，对所述待训练的专用分类模型进行训练。
[0128]
本说明书还提供了相应的实体识别装置，如图7所示。
[0129]
图6为本说明书提供的一种实体识别装置示意图，该装置包括：
[0130]
获取模块400，用于获取待识别文本，将所述待识别本输入预训练的通用分类模型，确定所述待识别文本中各实体以及各实体的通用类别；
[0131]
专用分类模块401，用于将所述待识别文本中各实体以及各实体的通用类别输入预训练的专用分类模型，确定各实体在目标领域中的类别，作为各实体的专用类别；
[0132]
实体识别模块402，用于将所述待识别文本中各实体以及各实体的专用类别，作为所述待识别文本的实体分类结果；
[0133]
所述专用分类模型，通过输入由所述通用分类模型确定出的实体作为的训练样本以及实体的通用类别，根据输出的专用分类结果，与根据所述目标领域对应的领域词库确
定出的实体的专用类别作为的标注，训练得到。
[0134]
本说明书还提供了一种计算机可读存储介质，该存储介质存储有计算机程序，计算机程序可用于执行上述模型训练方法和/或实体识别方法。
[0135]
本说明书还提供了图7所示的电子设备的结构示意图。如图7所示，在硬件层面，该电子设备包括处理器、内部总线、内存以及非易失性存储器，当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，以实现上述模型训练方法和/或实体识别方法。
[0136]
当然，除了软件实现方式之外，本说明书并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。
[0137]
在20世纪90年代，对于一个技术的改进可以很明显地区分是硬件上的改进(例如，对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而，随着技术的发展，当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此，不能说一个方法流程的改进就不能用硬件实体模块来实现。例如，可编程逻辑器件(programmable logic device,pld)(例如现场可编程门阵列(field programmable gate array，fpga))就是这样一种集成电路，其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片pld上，而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且，如今，取代手工地制作集成电路芯片，这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现，它与程序开发撰写时所用的软件编译器相类似，而要编译之前的原始代码也得用特定的编程语言来撰写，此称之为硬件描述语言(hardware description language，hdl)，而hdl也并非仅有一种，而是有许多种，如abel(advanced boolean expression language)、ahdl(altera hardware description language)、confluence、cupl(cornell university programming language)、hdcal、jhdl(java hardware description language)、lava、lola、myhdl、palasm、rhdl(ruby hardware description language)等，目前最普遍使用的是vhdl(very
‑
high
‑
speed integrated circuit hardware description language)与verilog。本领域技术人员也应该清楚，只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中，就可以很容易得到实现该逻辑方法流程的硬件电路。
[0138]
控制器可以按任何适当的方式实现，例如，控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(application specific integrated circuit，asic)、可编程逻辑控制器和嵌入微控制器的形式，控制器的例子包括但不限于以下微控制器：arc 625d、atmel at91sam、microchip pic18f26k20以及silicone labs c8051f320，存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视
为既可以是实现方法的软件模块又可以是硬件部件内的结构。
[0139]
上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
[0140]
为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
[0141]
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd
‑
rom、光学存储器等)上实施的计算机程序产品的形式。
[0142]
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
[0143]
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
[0144]
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
[0145]
在一个典型的配置中，计算设备包括一个或多个处理器(cpu)、输入/输出接口、网络接口和内存。
[0146]
内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(ram)和/或非易失性内存等形式，如只读存储器(rom)或闪存(flash ram)。内存是计算机可读介质的示例。
[0147]
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(pram)、静态随机存取存储器(sram)、动态随机存取存储器(dram)、其他类型的随机存取存储器(ram)、只读存储器(rom)、电可擦除可编程只读存储器(eeprom)、快闪记忆体或其他内存技术、只读光盘只读存储器(cd
‑
rom)、数字多功能光盘(dvd)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算
机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
[0148]
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个
……”
限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
[0149]
本领域技术人员应明白，本说明书的实施例可提供为方法、系统或计算机程序产品。因此，本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd
‑
rom、光学存储器等)上实施的计算机程序产品的形式。
[0150]
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
[0151]
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
[0152]
以上所述仅为本说明书的实施例而已，并不用于限制本说明书。对于本领域技术人员来说，本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本说明书的权利要求范围之内。