实体识别方法、装置、设备及存储介质与流程

1.本技术涉及语义解析的技术领域，尤其涉及一种实体识别方法、装置、设备及存储介质。
技术背景
2.实体识别(named entity recognition,ner)作为信息抽取中的一类典型任务，在问答系统、智能对话、搜索推荐和机器翻译等多项自然语言处理任务中都承担着重要的角色。除时间、地点、数字、人名、组织机构等多类通用性较强的常规实体类型以外，在特定领域还存在大量专业性较强的特殊实体类型，比如“cell(细胞)”，在生物学领域中指生物体基本的结构和功能单位，而在计算机科学领域中可以指神经网络模型的一个基本单元。而现有的实体识别方法还难以实现跨领域的实体识别，故如何实现跨领域的实体识别成为目前亟待解决的技术问题。


技术实现要素：

3.本技术的主要目的在于提供一种实体识别方法、装置、设备及存储介质，旨在实现跨领域的实体识别。
4.第一方面，本技术提供一种实体识别方法，所述实体识别方法包括以下步骤：
5.获取待识别文本，确定所述待识别文本中的候选实体；
6.基于预设的实体识别规则，确定所述候选实体与预设的实体类别集合中各预设实体类别是否匹配；
7.根据匹配结果，确定对所述待识别文本中实体的识别结果。
8.第二方面，本技术还提供一种实体识别装置，所述实体识别装置包括：
9.获取模块，用于获取待识别的文本；
10.确定模块，所述确定模块包括第一模块、第二模块和第三模块，其中，所述第一模块用于确定所述待识别的文本中的候选实体，所述第二模块用于基于预设的实体识别规则，确定所述候选实体与预设的实体类别集合中各预设实体类别是否匹配，所述第三模块用于根据匹配结果，确定对所述待识别文本中实体的识别结果。
11.第三方面，本技术还提供一种计算机设备，所述计算机设备包括处理器、存储器以及存储在所述存储器上并可被所述处理器执行的计算机程序，其中所述计算机程序被所述处理器执行时，实现如上述的实体识别方法的步骤。
12.第四方面，本技术还提供一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，其中所述计算机程序被所述处理器执行时，实现如上述的实体识别方法的步骤。
13.本技术提供一种实体识别方法、装置、设备和计算机可读存储介质，本技术首先通过获取待识别文本，确定所述待识别文本中的候选实体，然后基于预设的实体识别规则，确定所述候选实体与预设的实体类别集合中各预设实体类别是否匹配，最后根据匹配结果，
确定对所述待识别文本中实体的识别结果，可实现跨领域的实体识别。
附图说明
14.为了更清楚地说明本技术实施例技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
15.图1为本技术实施例提供的实体识别方法的流程示意图；
16.图2为本技术实施例提供的根据匹配结果，确定对待识别文本中实体的识别结果的示例；
17.图3为本技术实施例提供的根据匹配结果，确定对待识别文本中实体的识别结果的示例；
18.图4为本技术实施例提供的实体识别装置的示意性框图；
19.图5为本技术实施例提供的另一实体识别装置的示意性框图；
20.图6为本技术实施例提供的再一实体识别装置的示意性框图；
21.图7为本技术实施例提供的再一实体识别装置的示意性框图；
22.图8为本技术实施例提供的再一实体识别装置的示意性框图；
23.图9为本技术实施例提供的再一实体识别装置的示意性框图；
24.图10为本技术实施例提供的再一实体识别装置的示意性框图；
25.图11为本技术实施例提供的计算机设备的结构示意性框图。
具体实施方式
26.下面将结合本技术实施例中的附图，对本技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本技术一部分实施例，而不是全部的实施例。基于本技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本技术保护的范围。
27.附图中所示的流程图仅是示例说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解、组合或部分合并，因此实际执行的顺序有可能根据实际情况改变。
28.应当理解，在此本技术说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本技术。如在本技术说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。
29.还应当理解，在本技术说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
30.本技术实施例提供一种实体识别方法、装置、计算机设备及计算机可读存储介质。其中，该实体识别方法可应用于电子设备，所述电子设备包括但不限于服务器、智能手机、平板电脑、台式计算机、车载电脑、智能电视机和可穿戴设备等等。
31.下面结合附图，对本技术的一些实施方式作详细说明。在不冲突的情况下，下述实施例及实施例中的特征可以相互结合。
32.请参阅图1，图1为本技术实施例提供的实体识别方法的流程示意图。
33.如图1所示，该实体识别方法包括步骤s100至步骤s300。
34.步骤s100、获取待识别文本，确定所述待识别文本中的候选实体。
35.其中，待识别文本是需要进行实体识别的语料，确定待识别文本中的候选实体的方法是通过获取待识别文本中连续的字符串作为候选实体来实现的，候选实体包括字、词和句。
36.可以理解地，本技术对待识别文本的具体形式不加以限制，待识别文本可以为文字文本，文本由一个或多个字符组成。例如，对于文本“苹果在北京举办新品发布会”，文本还可以是基于语音识别技术获得的语音文本，如终端可以通过麦克风采集用户的语音数据，基于语音识别技术对采集的语音数据进行自然语言处理后得到文字文本。
37.步骤s200、基于预设的实体识别规则，确定所述候选实体与预设的实体类别集合中各预设实体类别是否匹配。
38.可以理解的，候选实体包括实体和非实体，在确定了待识别文本中的候选实体之后，需要基于预设的实体识别规则，确定候选实体与预设的实体类别集合中各预设实体类别是否匹配。
39.在一些实施方式中，步骤s200包括步骤s210至步骤s220，以该实施方式将序列标注任务转化为对预训练语言模型推理能力的直接应用，有效降低了对数据标注的要求，提高了本技术实体识别方法的灵活性。在该实施方式下，可对待识别文本的部分或全部实体进行标注，也可以不进行标注。
40.步骤s210、获取预训练语言模型。
41.步骤s220、基于所述预训练语言模型和预设的识别模板，确定所述候选实体与预设的实体类别集合中各预设实体类别是否匹配。
42.其中，预训练语言模型是经过训练得到的，在一些实施方式中，预训练语言模型可基于预设的识别模板进行训练。具体的实施方式在下文中有介绍，这里不再赘述。
43.在一些实施方式中所述识别模板包括第一识别模板和第二识别模板，步骤s220包括步骤s221至步骤s222，以该实施方式提高实体识别的准确性。
44.步骤s221、基于所述第一识别模板和所述预训练语言模型计算第一概率值，所述第一概率值为所述候选实体为预设实体类别的概率，所述预设实体类别包括至少一个。
45.在一些实施方式中，步骤s221包括步骤s2211至步骤s2213，以该实施方式进一步提高实体识别的准确性。
46.步骤s2211、将所述候选实体代入所述第一识别模板，获得第一识别语句。
47.步骤s2212、基于所述预训练语言模型分析所述第一识别语句，得到第三概率值，所述第三概率值为所述候选实体为所述预设实体类别的各个同义词的概率。
48.步骤s2213、取所述第三概率值的平均值作为所述第一概率值。
49.需要说明的是，第一识别语句是一个部分被掩码的语句，第一识别语句被掩码的部分是被代入第一识别模板的候选实体可能的实体类型，基于预训练语言模型推理计算被掩码部分被预测为各实体类别标签的同义词中各个词的概率值，即第三概率值，取第三概率值的平均值作为第一概率值。
50.示例性地，第一识别模板为“[span]是一个[mask][mask]实体”，其中，[span]是候选实体的替换位，[mask][mask]是被掩码的部分，代表候选实体的类别，候选实体为待识别
文本“苹果在北京举办新闻发布会”中的“苹果”，将候选实体“苹果”代入第一识别模板得第一识别语句“苹果是一个[mask][mask]实体”，基于预训练语言模型推理得到多个第三概率值：[mask][mask]为公司的概率值是0.9、[mask][mask]为企业的概率值为0.9、[mask][mask]为事业单位的概率值为0.7、[mask][mask]为机构的概率值为0.7、[mask][mask]为地点的概率值为0.1，[mask][mask]为地址的概率值为0.09、[mask][mask]为地方的概率值为0.11、。可以理解地，无论是企业、机构还是事业单位都可被视为公司的性质，则[mask][mask]为公司的概率为(0.9 0.9 0.7 0.7)/4＝0.8，即“苹果是一个公司实体”的第一概率值为0.8；无论是地点、地址还是地方都可被视为地点的性质，则[mask][mask]为地点的概率为(0.1 0.09 0.11)/3＝0.1，即“苹果是一个地点实体”的第一概率值为0.1。
[0051]
步骤s222、基于所述第二识别模板和所述预训练语言模型计算第二概率值，所述第二概率值为所述候选实体不是实体的概率。
[0052]
在一些实施方式中，步骤s222包括步骤s2221至步骤s2222，以该实施方式进一步提高实体识别的准确性。
[0053]
步骤s2221、将所述候选实体代入所述第二识别模板，获得第二识别语句。
[0054]
步骤s2222、基于预训练语言模型分析所述第二识别语句，得到所述第二概率值。
[0055]
具体地，步骤s2222还包括步骤s2222a至步骤s2222c，以进一步提高实体识别的准确性。
[0056]
步骤s2222a、获取所述第二识别语句被掩码的字符串，所述字符串包括第一字符串和第二字符串。
[0057]
步骤s2222b、基于所述预训练语言模型分别分析所述第一字符串和所述第二字符串，得到第四概率值和第五概率值，其中，所述第四概率值为所述第一字符串代表“不”字的概率，所述第五概率值为所述第二字符串代表“是”字的概率。
[0058]
步骤s222c、取所述第四概率值和所述第五概率值的乘积作为第二概率值。
[0059]
示例性地，第二识别模板为“[span][mask1][mask2]实体”其中，[span]是候选实体的替换位，[mask1]代表第一字符串，[mask2]代表第二字符串，候选实体为待识别文本“苹果在北京举办新闻发布会”中的“举办”，将候选实体“举办”代入第二识别模板得第二识别语句“举办[mask1][mask2]实体”，基于预训练语言模型推理得到[mask1]为“不”字的概率值为0.95，即第四概率值为0.95，[mask2]为“是”字的概率值为0.95，即第五概率值为0.95，则“举办不是实体”的概率值为0.95
×
0.95＝0.9025，即第二概率值为0.9025。
[0060]
步骤s300、根据匹配结果，确定对所述待识别文本中实体的识别结果。
[0061]
在一些实施方式中，步骤s300包括步骤s310至步骤s320，以获得准确的实体识别结果。
[0062]
步骤s310、比较一个或多个所述第一概率值和所述第二概率值的大小。
[0063]
步骤s320、若所述第二概率值为最大值，则所述候选实体不是实体；若所述第二概率值不是最大值，则所述候选实体为所述第一概率值为最大值时所对应的实体类别。
[0064]
示例性地，如图2所示，待识别文本“苹果在北京举办新闻发布会”中的候选实体“苹果”是一个公司实体的概率值p＝0.9是最大概率值，即最大的第一概率值所对应的候选实体类别为公司，则候选实体“苹果”是一个公司实体；如图3所述，“苹果在北京举办新闻发布会”中的候选实体“举办”不是实体的概率值p＝0.9为最大概率值，即第二概率值最大，则
候选实体“举办”不是实体。
[0065]
在一些实施方式中，在所述基于预设的实体识别规则，确定所述候选实体与预设的实体类别集合中各预设实体类别是否匹配之前，还包括步骤s10和步骤s20。以该实施方式提高实体识别的精确性。
[0066]
步骤s10、确定所述待识别文本中的各实体类别标签。
[0067]
其中，各实体类别标签是待识别文本中可能包含的各实体类别，各实体类别标签基于待识别文本的应用场景确定。例如，“苹果在北京举办新品发布会”，这一待识别文本可能包含的实体类别有公司、地点和产品等；再比如，“我今天头有点疼，是怎么回事？”，这一待识别文本可能包含的实体类别有人物、时间、身体部位和症状等。
[0068]
步骤s20、构建所述各实体类别标签对应的实体类别集合。
[0069]
其中，各实体类别集合是指各实体类别标签的同义词组成的集合。在确定了待识别文本中的各实体类别之后可以利用开源网络爬虫技术从百科介绍、同义词表和专家文章等开源数据库中获取各实体类别的同义词构建实体类别集合。
[0070]
示例性地，“苹果在北京举办新闻发布会”，这一待识别文本可能包含的实体类别有公司、地点和产品等，利用开源网络爬虫技术得到“公司”的同义词包括企业、机构和事业单位；“地点”的同义词包括地方、地区和地址；“产品”的同义词包括商品和物品，则“苹果在北京举办新闻发布会”这一待识别文本的实体类别集合为{公司(企业、机构、事业单位)、地点(地方、地区、地址)、产品(商品、物品)}。
[0071]
在一些实施方式中，所述实体识别方法还包括对所述预训练语言模型进行训练，以该实施方式提高预训练语言模型推理的准确性，所述对所述预训练语言模型进行训练包括步骤s30至步骤s40。
[0072]
步骤s30、获取训练文本；
[0073]
可以理解地，本技术对训练文本的应用场景不加以限制，训练文本可以同时包含适用于各类应用场景的语句，例如
“‘
苹果在北京举办新闻发布会’、
‘
我今天头晕目眩’、
‘
哈根达斯雪糕多少钱一只’、
‘
扇贝单词是一款很好的学习软件’、
‘
我的保温杯可以保温8小时
’”
等一些不同使用场景的语句都可以作为训练文本。本技术对训练文本的具体形式也不加以限制，训练文本可以为文字文本，文本由一个或多个字符组成。例如，对于文本“苹果在北京举办新品发布会”，训练文本还可以是基于语音识别技术获得的语音文本，如终端可以通过麦克风采集用户的语音数据，基于语音识别技术对采集的语音数据进行自然语言处理后得到文字文本。
[0074]
步骤s40、基于所述训练文本和所述识别模板对所述预训练语言模型进行训练，得到新的预训练语言模型。
[0075]
可以理解地，训练文本包括上述待识别文本，对于预训练语言模型进行训练可以在上述步骤s200之前也可以在上述步骤s300之后。
[0076]
在一些实施方式中，预训练语言模型包括实体样本和非实体样本，识别模板包括第一识别模板和第二识别模板，第一识别模板用来训练实体样本，第二识别模板用来训练非实体样本。
[0077]
示例性地，第一识别模板为“[span]是一个[mask][mask]实体”，其中，[span]为训练样本中实体的替换位，[mask][mask]是被掩码的部分，代表训练样本中实体的类别，在进
行实体样本训练时，系统会判断出[mask][mask]具体指代的实体类型并作为预测目标。将训练样本“苹果在北京举办新品发布会”代入第一识别模板可得“苹果在北京举办新品发布会，苹果是一个[mask][mask]实体(预测目标：公司)；北京是一个[mask][mask]实体(预测目标：地点)”等一些这样的实体样本。第二识别模板为“[span][mask1][mask2]实体”，其中，[span]为训练样本中非实体的替换位，[mask1][mask2]是被掩码的部分，[mask1]代表“不”字，[mask2]代表“是”字，在进行非实体样本训练时，系统会判断出[mask1][mask2]指代“不是”并将“不是”作为预测目标。将训练样本“苹果在北京举办新品发布会”代入第一识别模板可得“苹果在北京举办新品发布会，发布[mask][mask]实体(预测目标：不是)”等一些这样的非实体样本。
[0078]
请参阅图4，图4为本技术实施例提供的实体识别装置300的示意性框图，如图4所示，实体识别装置300包括获取模块301和确定确定模块302，其中，确定模块302包括第一确定模块、第二确定模块和第三确定模块。
[0079]
获取模块301用于获取待识别的文本。
[0080]
第一确定模块用于确定所述待识别文本中的候选实体。
[0081]
第二识别模块用于基于预设的实体识别规则，确定所述候选实体与预设的实体类别集合中各预设实体类别是否匹配。
[0082]
第三识别模块用于根据匹配结果，确定对所述待识别文本中实体的识别结果。
[0083]
请参阅图5，在一些实施方式中，实体识别装置300还包括构建模块303，确定模块302还包括第四确定模块。
[0084]
第四确定模块用于确定所述待识别文本中的各实体类别标签；
[0085]
构建模块303用于构建所述各实体类别标签对应的实体类别集合。
[0086]
请参阅图6，在一些实施方式中，确定模块302还包括第五确定模块，第五确定模块用于基于预训练语言模型和预设的识别模板，确定所述候选实体与预设的实体类别集合中各预设实体类别是否匹配。在该实施方式中，获取模块还用于获取所述预训练语言模型。
[0087]
在一些实施方式中，识别模板包括第一识别模板和第二识别模板，如图7所示，实体识别装置300还包括计算模块304，计算模块304用于基于所述第一识别模板和所述预训练语言模型计算第一概率值和基于所述第二识别模板和所述预训练语言模型计算第二概率值，其中，所述第一概率值为所述候选实体为预设实体类别的概率，所述预设实体类别包括至少一个，所述第二概率值为所述候选实体不是实体的概率。
[0088]
请参阅图8，在一些实施方式中，实体识别装置300还包括代入模块305和分析模块306。
[0089]
代入模块305用于将所述候选实体代入所述第一识别模板，获得第一识别语句。
[0090]
分析模块306用于基于所述预训练语言模型分析所述第一识别语句，得到第三概率值，所述第三概率值为所述候选实体为所述预设实体类别的各个同义词的概率。
[0091]
在该实施方式中，计算模块304还用于计算所述第三概率值的平均值，所述第三概率值的平均值为所述第一概率值。
[0092]
在一些实施实施方式中，代入模块305还用于将所述候选实体代入所述第二识别模板，获得第二识别语句；分析模块306还用于基于所述预训练语言模型分析所述第二识别语句，得到所述第二概率值。
[0093]
请参阅图9，在一些实施方式中，实体识别装置还包括比较模块307，比较模块307用于比较一个或多个所述第一概率值和所述第二概率值的大小。
[0094]
请参阅图10，在一些实施方式中，实体识别装置300还包括训练模块308，训练模块308用于基于训练文本和所述识别模板对所述预训练语言模型进行训练，得到新的预训练语言模型，在该实施方式中获取模块301还用于获取所述训练文本。
[0095]
需要说明的是，所属技术领域的技术人员可以清楚了解到，为了描述的方便和简洁，上述描述的装置和各个模块及单元的具体工作过程，可以参考前述实体识别方法实施例中的对应过程，在此不再赘述。
[0096]
上述实施例提供的装置可以实现为一种计算机程序的形式，该计算机程序可以在如图11所示的计算机设备40上运行。
[0097]
请参阅图11，图11为本技术实施例提供的计算机设备40的结构示意性框图，计算机设备40包括处理器41和存储器42，处理器41和存储器42通过系统总线43连接，其中，存储器42可以包括非易失性存储介质和内存储器。
[0098]
非易失性存储介质可存储计算机程序。该计算机程序包括程序指令，该程序指令被处理器41执行时，可使得处理器41执行上述任一种实体识别方法。
[0099]
处理器41用于提供计算和控制能力，支撑整个电子设备的运行。
[0100]
内存储器为非易失性存储介质中的计算机程序的运行提供环境，该计算机程序被处理器41执行时，可使得处理器41执行上述任一种实体识别方法。
[0101]
本领域技术人员可以理解，图11中示出的结构，仅仅是与本技术方案相关的部分结构的框图，并不构成对本技术方案所涉及的电子设备的限定，具体的电子设备可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。
[0102]
应当理解的是，处理器41可以是中央处理单元(central processing unit，cpu)，该处理器41还可以是其他通用处理器、数字信号处理器(digital signal processor，dsp)、专用集成电路(application specific integrated circuit，asic)、现场可编程门阵列(field-programmable gate array，fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。其中，通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
[0103]
其中，在一些实施方式中，处理器41用于运行存储在存储器中的计算机程序，以实现如下步骤：
[0104]
获取待识别文本，确定所述待识别文本中的候选实体；
[0105]
基于预设的实体识别规则，确定所述候选实体与预设的实体类别集合中各预设实体类别是否匹配；
[0106]
根据匹配结果，确定对所述待识别文本中实体的识别结果。
[0107]
在一些实施方式中，处理器41在实现所述基于预设的实体识别规则，确定所述候选实体与预设的实体类别集合中各预设实体类别是否匹配之前，还用于实现：
[0108]
确定所述待识别文本中的各实体类别标签；
[0109]
构建所述各实体类别标签对应的实体类别集合。
[0110]
在一些实施方式中，处理器41在实现所述基于预设的实体识别规则，确定所述候选实体与预设的实体类别集合中各预设实体类别是否匹配时，用于实现：
[0111]
获取预训练语言模型；
[0112]
基于所述预训练语言模型和预设的识别模板，确定所述候选实体与预设的实体类别集合中各预设实体类别是否匹配。
[0113]
在一些实施方式中，所述识别模板包括第一识别模板和第二识别模板，处理器41在实现所述基于所述预训练语言模型和所述预设的识别模板，确定所述候选实体与预设的实体类别集合中各预设实体类别是否匹配时，用于实现：
[0114]
基于所述第一识别模板和所述预训练语言模型计算第一概率值，所述第一概率值为所述候选实体为预设实体类别的概率，所述预设实体类别包括至少一个；
[0115]
基于所述第二识别模板和所述预训练语言模型计算第二概率值，所述第二概率值为所述候选实体不是实体的概率。
[0116]
在一些实施方式中，处理器41在实现所述基于所述第一识别模板和所述预训练语言模型计算第一概率值时，用于实现：
[0117]
将所述候选实体代入所述第一识别模板，获得第一识别语句；
[0118]
基于所述预训练语言模型分析所述第一识别语句，得到第三概率值，所述第三概率值为所述候选实体为所述预设实体类别的各个同义词的概率；
[0119]
取所述第三概率值的平均值作为所述第一概率值。
[0120]
在一些实施方式中，处理器41在实现所述基于所述第二识别模板和所述预训练语言模型计算第二概率值时，用于实现：
[0121]
将所述候选实体代入所述第二识别模板，获得第二识别语句；
[0122]
基于预训练语言模型分析所述第二识别语句，得到所述第二概率值。
[0123]
在一些实施方式中，处理器41在实现所述根据匹配结果，确定对所述待识别文本中实体的识别结果时，用于实现：
[0124]
比较一个或多个所述第一概率值和所述第二概率值的大小；
[0125]
若所述第二概率值为最大值，则所述候选实体不是实体。
[0126]
在一些实施方式中，处理器41还用于实现对所述预训练语言模型进行训练，处理器41在实现所述对所述预训练语言模型进行训练时，用于实现：
[0127]
获取训练文本；
[0128]
基于所述训练文本和所述识别模板对所述预训练语言模型进行训练，得到新的预训练语言模型。
[0129]
本技术实施例还提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被一个或多个处理器执行时使所述一个或多个处理器实现如本技术实施例提供的实体识别方法。
[0130]
其中，所述计算机可读存储介质可以是前述实施例所述的电子设备的内部存储单元，例如所述电子设备的硬盘或内存。所述计算机可读存储介质也可以是所述电子设备的外部存储设备，例如所述电子设备配备的插接式硬盘，智能存储卡(smart media card，smc)，安全数字(secure digital，sd)卡，闪存卡(flash card)等。
[0131]
以上所述，仅为本技术的具体实施方式，但本技术的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本技术揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本技术的保护范围之内。因此，本技术的保护范围应以权利
要求的保护范围为准。