提问答复系统、提问答复方法、存储介质及程序产品与流程

本公开涉及计算机，本公开尤其涉及一种提问答复系统、提问答复方法、存储介质及程序产品。

背景技术：

1、语言模型可以根据用户输入的文本，生成相应的答复。为了让语言模型技术更好地造福用户，许多研究者致力于语言模型在特定的专业领域的应用工作。

2、然而，语言模型生成的答复文本可能存在一些缺陷。一方面，语言模型存在“热情”的特点，即便是已经拒绝回答的敏感问题，在用户的不断追问下，语言模型也可能尝试进行回答，生成包含风险内容的答复文本。另一方面，语言模型对自己的知识能力过于自信，使用特定领域知识训练的特定领域的语言模型，对于非本领域的问题，即便该语言模型没有相关的知识储备，也会尽力回答，可能生成编造的、不符合事实的答复文本。

技术实现思路

1、本公开提供了一种提问答复系统、提问答复方法、存储介质及程序产品。

2、本公开第一方面提供了一种提问答复系统，提问答复系统包括处理器和存储器，所述存储器存储有计算机程序，当所述计算机程序被所述处理器执行时，所述处理器执行以下过程：获取提问文本；对所述提问文本进行内容评估，获取内容评估结果，所述内容评估结果包括第一结果和第二结果，所述第一结果表征所述提问文本的内容存在风险，所述第二结果表征所述提问文本的内容与特定领域不相关；在所述内容评估结果为所述第一结果的情况下，向终端设备发送预设答复文本；在所述内容评估结果为所述第二结果的情况下，对所述提问文本添加提示文本，得到修改文本，并基于所述修改文本生成目标答复文本。

3、一种可选的实施方式中，在对所述提问文本进行内容评估，获取内容评估结果时，所述处理器执行以下过程：对所述提问文本进行风险检测，判断所述提问文本是否包含风险内容，在所述提问文本包含风险内容的情况下得到所述第一结果；对所述提问文本进行领域检测，判断所述提问文本是否与所述特定领域相关，在所述提问文本与所述特定领域不相关的情况下得到所述第二结果。

4、一种可选的实施方式中，对所述提问文本进行内容评估，获取内容评估结果，包括：对所述提问文本进行风险检测，判断所述提问文本是否包含风险内容，在所述提问文本包含风险内容的情况下得到所述第一结果；以及对所述提问文本进行领域检测，判断所述提问文本是否与所述特定领域相关，在所述提问文本与所述特定领域不相关的情况下得到所述第二结果。

5、一种可选的实施方式中，对所述提问文本进行内容评估，获取内容评估结果，包括：对所述提问文本进行评估检测，判断所述提问文本是否包含风险内容，以及判断所述提问文本是否与所述特定领域相关，在所述提问文本包含风险内容的情况下得到所述第一结果，在所述提问文本不包含风险内容且与所述特定领域不相关的情况下得到所述第二结果。

6、一种可选的实施方式中，对所述提问文本进行风险检测，包括：对所述提问文本进行语义提取，获取所述提问文本的文本语义特征，并基于所述文本语义特征获取风险等级；以及在所述风险等级大于或大于等于阈值风险等级时，得到所述第一结果。

7、一种可选的实施方式中，对所述提问文本进行领域检测，包括：对所述提问文本进行语义提取，获取所述提问文本的文本语义特征，并基于所述文本语义特征获取领域相似度；以及在所述领域相似度小于或小于等于阈值相似度时，得到所述第二结果。

8、一种可选的实施方式中，所述内容评估结果还包括第三结果，所述第三结果表征内容不存在风险且与所述特定领域相关；对所述提问文本进行内容评估，获取内容评估结果之后，还包括：在所述内容评估结果为所述第三结果的情况下，向特定领域语言模型发送所述提问文本，所述特定领域语言模型根据所述提问文本生成目标答复文本；在所述内容评估结果为所述第一结果的情况下，阻止向所述特定领域语言模型发送所述提问文本，并向所述终端设备发送预设答复文本；以及在所述内容评估结果为所述第二结果的情况下，对所述提问文本添加提示文本，得到修改文本，并将所述修改文本发送至所述特定领域语言模型；其中，所述特定领域语言模型基于所述特定领域的知识训练得到。

9、一种可选的实施方式中，在基于所述修改文本生成目标答复文本之后，还包括：对所述目标答复文本进行风险评估，获取风险评估结果，所述风险评估结果包括第一子评估结果和第二子评估结果；在所述风险评估结果为所述第一子评估结果的情况下，将所述目标答复文本发送至所述终端设备；以及在所述风险评估结果为所述第二子评估结果的情况下，生成问题报告，并根据所述问题报告和所述提问文本重新生成目标答复文本；其中，所述第一子评估结果表征所述目标答复文本的内容不存在风险；所述第二子评估结果表征所述目标答复文本的内容存在风险。

10、本公开第二方面提供了一种提问答复方法，所述提问答复方法包括：获取提问文本；对所述提问文本进行内容评估，获取内容评估结果，所述内容评估结果包括第一结果和第二结果，所述第一结果表征所述提问文本的内容存在风险，所述第二结果表征所述提问文本的内容与特定领域不相关；在所述内容评估结果为所述第一结果的情况下，向终端设备发送预设答复文本；在所述内容评估结果为所述第二结果的情况下，对所述提问文本添加提示文本，得到修改文本，并基于所述修改文本生成目标答复文本。

11、本公开第三方面提供了一种计算机可读存储介质，该计算机可读存储介质上存储有计算机程序，该计算机程序被处理器运行时执行本公开任一个实施方式的提问答复方法。

12、本公开第四方面提供了一种计算机程序产品，该计算机程序产品包括计算机程序/指令，该计算机程序/指令被处理器执行时本公开任一个实施方式的提问答复方法。

技术特征：

1.一种提问答复系统，其特征在于，包括处理器和存储器，所述存储器存储有计算机程序，当所述计算机程序被所述处理器执行时，所述处理器执行以下过程：

2.根据权利要求1所述的提问答复系统，其特征在于，对所述提问文本进行内容评估，获取内容评估结果，包括：

3.根据权利要求1所述的提问答复系统，其特征在于，对所述提问文本进行内容评估，获取内容评估结果，包括：

4.根据权利要求2所述的提问答复系统，其特征在于，对所述提问文本进行风险检测，包括：

5.根据权利要求2所述的提问答复系统，其特征在于，对所述提问文本进行领域检测，包括：

6.根据权利要求1所述的提问答复系统，其特征在于，所述内容评估结果还包括第三结果，所述第三结果表征内容不存在风险且与所述特定领域相关；对所述提问文本进行内容评估，获取内容评估结果之后，还包括：

7.根据权利要求1至6中任一项所述的提问答复系统，其特征在于，在基于所述修改文本生成目标答复文本之后，还包括：

8.一种提问答复方法，其特征在于，包括：

9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器运行时执行如权利要求8所述的提问答复方法。

10.一种计算机程序产品，包括计算机程序/指令，其特征在于，所述计算机程序/指令被处理器执行时实现权利要求8所述的提问答复方法。

技术总结本公开提供了一种提问答复系统、提问答复方法、存储介质及程序产品。本公开的提问答复系统包括处理器和存储器，存储器存储有计算机程序，当计算机程序被处理器执行时，处理器执行以下过程：获取提问文本；对提问文本进行内容评估，获取内容评估结果，内容评估结果包括第一结果和第二结果，第一结果表征提问文本的内容存在风险，第二结果表征提问文本的内容与特定领域不相关；在内容评估结果为第一结果的情况下，向终端设备发送预设答复文本；在内容评估结果为第二结果的情况下，对提问文本添加提示文本，得到修改文本，并基于修改文本生成目标答复文本。技术研发人员：朱可欣,韩阳,邹伟受保护的技术使用者：贝壳找房（北京）科技有限公司技术研发日：技术公布日：2024/9/12