智能体应用对象生成方法、装置、计算机设备和存储介质与流程
- 国知局
- 2024-09-11 15:12:08
本技术涉及计算机,特别是涉及一种智能体应用对象生成方法、装置、计算机设备、存储介质和计算机程序产品。
背景技术:
1、随着计算机技术的发展,出现了agent应用,agent应用即智能体应用,智能体应用可以基于大语言模型实现,大语言模型(large language model,llm),是一种旨在理解和生成人类语言的人工智能模型。基于大语言模型实现的agent应用,其行为由llm根据agent当前的状态和外部输入决定,可以专门用于解决某一类问题,例如法律咨询agent,专门用于提供法律咨询服务。
2、传统技术中,智能体应用对象的生成可以通过对预先构建的拓扑表征图编译得到,然而经常存在智能体应用对象的生成效率低的问题。
技术实现思路
1、基于此,有必要针对上述技术问题,提供一种能够提高智能体应用对象的生成效率的智能体应用对象生成方法、装置、计算机设备、计算机可读存储介质和计算机程序产品。
2、第一方面,本技术提供了一种智能体应用对象生成方法。所述方法包括:
3、响应于服务请求,确定所述服务请求指示的拓扑表征图,所述拓扑表征图包括多个拓扑节点,每个拓扑节点表征一个组件,至少一个所述组件使用公共服务池中的公共服务;
4、对所述拓扑表征图进行编译,以对编译到的拓扑节点所表征的组件进行初始化,获得初始化的组件;
5、其中,当编译到的拓扑节点表征的目标组件使用所述公共服务池中的目标公共服务,则以引用所述公共服务池中所述目标公共服务的方式,对所述目标组件使用所述目标公共服务的功能进行编译;
6、响应于对所述拓扑表征图的编译完成,获得基于所述拓扑表征图中各拓扑节点对应的初始化的组件确定的智能体应用对象。
7、第二方面,本技术还提供了一种智能体应用对象生成装置。所述装置包括:
8、拓扑表征图确定模块,用于响应于服务请求,确定所述服务请求指示的拓扑表征图,所述拓扑表征图包括多个拓扑节点,每个拓扑节点表征一个组件,至少一个所述组件使用公共服务池中的公共服务;
9、拓扑表征图编译模块,用于对所述拓扑表征图进行编译,以对编译到的拓扑节点所表征的组件进行初始化,获得初始化的组件;其中,当编译到的拓扑节点表征的目标组件使用所述公共服务池中的目标公共服务,则以引用所述公共服务池中所述目标公共服务的方式,对所述目标组件使用所述目标公共服务的功能进行编译;
10、智能体应用对象获得模块,用于响应于对所述拓扑表征图的编译完成,获得基于所述拓扑表征图中各拓扑节点对应的初始化的组件确定的智能体应用对象。
11、在一些实施例中,所述服务请求是第一用户在第一会话下发起的请求,本技术的智能体应用对象生成方法还包括:智能体应用对象运行模块,用于在无状态模式下运行所述智能体应用对象,获得所述智能体应用对象针对所述服务请求的输出信息;将所述输出信息作为所述服务请求的响应结果,并将所述响应结果返回至所述第一用户的终端。
12、在一些实施例中,智能体应用对象运行模块,还用于:确定所述智能体应用对象的输入信息;将所述输入信息输入至所述智能体应用对象以运行所述智能体应用对象,获得所述智能体应用对象针对所述服务请求的输出信息;根据所述输入信息以及所述智能体应用对象运行过程中的状态信息确定所述第一会话下的会话状态信息,将所述会话状态信息与所述第一会话的会话标识关联保存至分布式缓存中。
13、在一些实施例中,智能体应用对象运行模块,还用于:将所述输入信息输入至所述智能体应用对象中;根据所述拓扑表征图,调用所述智能体应用对象中各初始化的组件处理所述输入信息,获得所述智能体应用对象针对所述服务请求的输出信息;其中,当调用的组件为使用公共服务池中的公共服务的组件时,向所调用的组件引用的所述公共服务池中的公共服务发送服务调用请求,并基于所述服务调用请求的响应结果继续参与对所述输入信息的处理。
14、在一些实施例中,本技术的智能体应用对象生成装置还包括:智能体应用对象缓存模块,用于对所述智能体应用对象、所述拓扑表征图以及所述拓扑表征图对应的编译参数进行缓存,并建立所述智能体应用对象、所述拓扑表征图以及所述拓扑表征图对应的编译参数之间的关联关系。
15、在一些实施例中,所述服务请求是第一用户在第一会话下发起的请求,本技术的智能体应用对象生成装置还包括:服务请求响应模块,用于响应于所述第一用户在第一会话下新发起的服务请求,从所述新发起的服务请求中获取所述第一会话的会话标识和用户输入信息;根据所述会话标识,获取所述第一会话下的会话状态信息;根据所述会话状态信息和所述用户输入信息,确定所述智能体应用对象的输入信息;将所确定的输入信息输入所述智能体应用对象,以获得所述新发起的服务请求的响应结果。
16、在一些实施例中,本技术的智能体应用对象生成装置还包括:响应结果缓存模块,用于将所述新发起的服务请求的响应结果保存至所述分布式缓存中,以对所述分布式缓存中所述第一会话下的会话状态信息进行更新;更新后的会话状态信息用于确定所述第一用户在第一会话下发起的后续的服务请求的响应结果。
17、在一些实施例中,服务请求响应模块,还用于响应于第二用户在第二会话下发起的服务请求,获取所述第二用户在第二会话下发起的所述服务请求所指示的目标拓扑表征图以及目标编译参数;当所述目标拓扑表征图与缓存的所述智能体应用对象关联的拓扑表征图一致、且所述目标编译参数与所述缓存的所述智能体应用对象关联的编译参数一致,将缓存的所述智能体应用对象作为所述第二会话下的目标智能体应用对象;通过所述目标智能体应用对象,确定所述第二用户在第二会话下发起的所述服务请求的响应结果。
18、在一些实施例中,拓扑表征图编译模块,还用于:根据所述拓扑表征图中各拓扑节点之间的连接关系,确定所述拓扑表征图中各拓扑节点之间的节点依赖关系;基于各拓扑节点之间的节点依赖关系,确定各拓扑节点的编译顺序;按照所述编译顺序依次编译所述拓扑表征图中各拓扑节点,以对编译到的拓扑节点所表征的组件进行初始化,获得初始化的组件。
19、在一些实施例中,拓扑表征图确定模块,还用于响应于服务请求,确定所述服务请求指示的拓扑表征图和编译参数;拓扑表征图编译模块,还用于根据所述编译参数对所述拓扑表征图进行编译,以对编译到的拓扑节点所表征的组件进行初始化,获得初始化的组件。
20、在一些实施例中,所述多个拓扑节点分别表征的组件中,至少一个组件为预训练的大语言模型。
21、第三方面,本技术还提供了一种计算机设备。所述计算机设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现上述智能体应用对象生成方法的步骤。
22、第四方面,本技术还提供了一种计算机可读存储介质。所述计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述智能体应用对象生成方法的步骤。
23、第五方面,本技术还提供了一种计算机程序产品。所述计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述智能体应用对象生成方法的步骤。
24、上述智能体应用对象生成方法、装置、计算机设备、存储介质和计算机程序产品,响应于服务请求,确定服务请求指示的拓扑表征图,拓扑表征图包括多个拓扑节点,每个拓扑节点表征一个组件,至少一个组件使用公共服务池中的公共服务,对拓扑表征图进行编译,以对编译到的拓扑节点所表征的组件进行初始化,获得初始化的组件,响应于对拓扑表征图的编译完成,获得基于拓扑表征图中各拓扑节点对应的初始化的组件确定的智能体应用对象,其中,当编译到的拓扑节点表征的目标组件使用公共服务池中的目标公共服务,则以引用公共服务池中目标公共服务的方式,对目标组件使用目标公共服务的功能进行编译,如此,可以实现将公共服务从智能体应用对象中剥离,使得智能体应用对象生成过程中只需编译构建智能体应用对象本身的部分即可,所占用的计算存储资源较小,实现了智能体应用对象的快速编译构建,从而提高了智能体应用对象的生成效率。
本文地址:https://www.jishuxx.com/zhuanli/20240911/293547.html
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 YYfuon@163.com 举报,一经查实,本站将立刻删除。