一种基于融合信息的大模型输出生成方法、介质及设备与流程

所属的技术人员能够理解，本发明的各个方面可以实现为系统、方法或程序产品。因此，本发明的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式（包括固件、微代码等），或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。根据本发明的这种实施方式的电子设备。电子设备仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。电子设备以通用计算设备的形式表现。电子设备的组件可以包括但不限于：上述至少一个处理器、上述至少一个储存器、连接不同系统组件（包括储存器和处理器）的总线。其中，储存器存储有程序代码，程序代码可以被处理器执行，使得处理器执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。储存器可以包括易失性储存器形式的可读介质，例如随机存取储存器（ram）和/或高速缓存储存器，还可以进一步包括只读储存器（rom）。储存器还可以包括具有一组（至少一个）程序模块的程序/实用工具，这样的程序模块包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。总线可以为表示几类总线结构中的一种或多种，包括储存器总线或者储存器控制器、外围总线、图形加速端口、处理器或者使用多种总线结构中的任意总线结构的局域总线。电子设备也可以与一个或多个外部设备（例如键盘、指向设备、蓝牙设备等）通信，还可与一个或者多个使得用户能与该电子设备交互的设备通信，和/或与使得该电子设备能与一个或多个其它计算设备进行通信的任何设备（例如路由器、调制解调器等等）通信。这种通信可以通过输入/输出（i/o）接口进行。并且，电子设备还可以通过网络适配器与一个或者多个网络（例如局域网（lan），广域网（wan）和/或公共网络，例如因特网）通信。网络适配器通过总线与电子设备的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理器、外部磁盘驱动阵列、raid系统、磁带驱动器以及数据备份存储系统等。通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质（可以是cd-rom，u盘，移动硬盘等）中或网络上，包括若干指令以使得一台计算设备（可以是个人计算机、服务器、终端装置、或者网络设备等）执行根据本公开实施方式的方法。在本公开的示例性实施例中，还提供了一种计算机可读存储介质，其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中，本发明的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当程序产品在终端设备上运行时，程序代码用于使终端设备执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子（非穷举的列表）包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器（ram）、只读存储器（rom）、可擦式可编程只读存储器（eprom或闪存）、光纤、便携式紧凑盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、rf等等，或者上述的任意合适的组合。可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，程序设计语言包括面向对象的程序设计语言—诸如java、c++等，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网（lan）或广域网（wan），连接到用户计算设备，或者，可以连接到外部计算设备（例如利用因特网服务提供商来通过因特网连接）。此外，上述附图仅是根据本发明示例性实施例的方法所包括的处理的示意性说明，而不是限制目的。易于理解，上述附图所示的处理并不表明或限制这些处理的时间顺序。另外，也易于理解，这些处理可以是例如在多个模块中同步或异步执行的。应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本公开的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。以上，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本的技术人员在本发明揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。

背景技术：

1、大语言模型（large language models, llms）因其强大的语言理解和生成能力，在多个领域展现出了广泛的应用潜力。大语言模型的“幻觉”问题是指这些模型在生成文本时可能出现的不准确、自我矛盾或与输入信息不符的现象。尽管大语言模型（llms）在众多自然语言处理任务中展现了卓越的能力，如语言理解、文本生成、问答系统等，但它们有时会生成看似合理实则错误或无关的内容，这种现象就被称作“幻觉”。而造成幻觉的原因包括：模型训练数据可能不足以覆盖所有知识领域或存在偏见；模型可能会过度泛化从训练数据中学到的模式，导致在新情境下的错误应用；模型无法实时获取最新的信息，因此可能生成过时或错误的内容；追求预测下一个词的最佳概率可能牺牲了全局的逻辑一致性或事实准确性等。

2、当前在一些专业的应用场景中都在使用大语言模型来提供更加准确多样的业务服务。通常为了可以满足对专业领域问题及非专业领域问题的回答能力，现有的应用场景中会同时集成通用大语言模型及专用大语言模型。在一些回答精准度要求较低的通用场景（如故事编写场景）中，大语言模型的“幻觉”问题影响较小。但是，在一些精准度要求较高的垂直领域场景（如医疗、金融、民航等场景）中，通常用户需模型输出更加准确无误的领域专业知识，以解决对应的问题。现有技术中，由于大语言模型的“幻觉”问题，会影响用户对专业领域知识的准确获取，使其无法更好的适用于精准度要求较高的垂直领域。

技术实现思路

1、针对上述技术问题，本发明采用的技术方案为：

2、根据本发明的一个方面，提供了一种基于融合信息的大模型输出生成方法，方法包括如下步骤：

3、使用初始输入分别与目标领域中的多个类别的外部知识库进行匹配，以召回多个类别的外部知识库分别对应的问答参考记录；问答参考记录包括：问答参考信息及置信度；外部知识库包括长文本知识库、短文本知识库、结构化数据知识库及意图知识库；

4、若存在任意问答参考记录中还包括行程查询标记，则获取初始输入对应用户的行程信息；行程查询标记表示对应问答参考记录中问答参考信息中答案部分的内容，与用户的行程信息中的至少一个字段对应的值相关；

5、使用目标相似度计算模型，生成初始输入分别与每一问答参考信息对应的句向量之间的相似度；目标相似度计算模型为基于simcse框架使用目标领域对应的语料训练过的roberta模型；

6、按照相似度由大到小的顺序，对多个问答参考信息进行排序拼接，生成初始参考信息；

7、将行程信息与初始参考信息拼接，生成次级参考信息；

8、将初始输入及次级参考信息进行拼接后，生成第二目标输入；

9、将第二目标输入加载至目标领域对应的专用大语言模型中，以生成对应的输出；专用大语言模型为使用目标领域对应的语料对通用大语言模型进行训练得到的。

10、根据本发明的第二个方面，提供了一种非瞬时性计算机可读存储介质，非瞬时性计算机可读存储介质存储有计算机程序，计算机程序被处理器执行时实现上述的一种基于融合信息的大模型输出生成方法。

11、根据本发明的第三个方面，提供了一种电子设备，包括存储器、处理器以及存储在存储器中并可在处理器上运行的计算机程序，处理器执行计算机程序时实现上述的一种基于融合信息的大模型输出生成方法。

12、本发明至少具有以下有益效果：

13、本发明中具体为通过使用目标领域的各种类型的专业先验知识以及行程信息共同行程融合后形成一个相关度更高的高质量的prompt工程中的提示信息文本。该提示信息用于明确任务需求、约束条件或期望的回答格式，以此来引导大型语言模型（llms）生成符合特定需求和预期的高质量文本输出，进而进一步克服大语言模型出现“幻觉”的概率。

14、另外，通常通用大语言模型会比专用大语言模型，在回答对应领域问题时，更加容易出现“幻觉”问题。所以本发明中通过召回结果中是否携带有行程查询标记，来直接确定要将第一目标输入加载至专用大语言模型还是通用大语言模型中。由于，行程查询标记用于表示召回结果的内容与用户的行程信息的相关。由此，可以根据行程查询标记，来确定初始输入想要获取的答案也更加偏近于专业且准确的信息。也即为需要更加有效的克服模型“幻觉”问题。进而可以使用专用大语言模型对目标领域更高的理解能力生成更加准确的输出，以进一步克服大语言模型的“幻觉”问题，提高其在精准度要求较高的垂直领域的适用性。