智能链的建立方法、装置、设备及介质与流程
- 国知局
- 2024-08-05 12:16:35
本申请涉及人工智能领域,尤其涉及一种智能链的建立方法、装置、设备及介质。
背景技术:
1、智能助理可以针对用户的提问给出相应的答案,实现快速查询的目的,主要是通过所使用的大语言模型在上层通过大语言模型(large language model,简称llm)智能链进行任务策划模式,通过大语言模型判断当前的提问属于哪一个子智能链中的能力,判断完成后执行该子智能链,即可得到当前的提问所对应的答案。
2、由于不同大语言模型适用的场景不同,所以可能需要根据当前智能链的应用场景配置相应的大语言模型的连接器,而现有技术中要实现大语言模型的连接器的替换,只能重新开发一个新的智能链,导致工作量繁重。
技术实现思路
1、本申请提供一种智能链的建立方法、装置、设备及介质,可灵活替换大语言模型的连接器,提高了智能链的开发效率。
2、一方面,本申请提供一种智能链的建立方法,所述方法包括:
3、响应用户对编辑界面的菜单栏的第一操作,在所述编辑界面的预设区域内展示输入卡片、提示词模板卡片、适配器卡片、功能卡片以及输出卡片;响应用户对任意卡片的第二操作,配置该卡片的属性,以建立智能链的输入模块、提示词模板、适配器卡片、功能模块以及输出模块;
4、响应用户对编辑界面的菜单栏的第三操作,在所述编辑界面的预设区域内展示连接器卡片,所述编辑界面的菜单栏包括至少一个类型的连接器卡片,不同类型的连接器卡片对应不同类型的大语言模型;响应用户对所述连接器卡片的功能列表的第四操作,配置该连接器卡片的属性,以建立所述智能链的第一连接器;
5、响应用户在所述编辑界面的预设区域内的第五操作,在所述编辑界面的预设区域内展示各卡片之间的连线,以建立所述智能链;所述第五操作的对象为各卡片的端口锚点。
6、在一种示例中,所述方法还包括:
7、响应用户的第六操作,更新连接器卡片的属性,以将所述智能链的连接器替换为第二连接器。
8、在一种示例中,所述方法还包括
9、获取用户输入的新建连接器的连接器信息,所述连接器信息包括连接器名称、应用信息、大语言模型类型与模型参数;
10、基于所述用户输入的新建连接器的连接器信息,将大语言模型的调用处理进行封装,并关联至所述连接器信息中的大语言模型类型对应的连接器卡片的功能列表中,以新建连接器。
11、在一种示例中,所述方法还包括:
12、提供基础类型页面;响应用户在所述基础类型页面的操作,获得所述新建连接器的应用信息和模型基础类型,并显示信息编辑页面;
13、响应用户在所述信息编辑页面的操作,获得所述新建连接器的连接器名称、文本模型类型与模型参数;不同的大语言模型类型对应不同的模型基础类型和文本模型类型。
14、在一种示例中,所述基于所述用户输入的新建连接器的连接器信息,将大语言模型的调用处理进行封装,并关联至所述连接器信息中的大语言模型类型对应的连接器卡片的功能列表中,包括:
15、基于所述用户输入的新建连接器的连接器信息,将大语言模型的调用处理进行封装,并在所述连接器信息中的大语言模型类型对应的连接器卡片的功能列表中,所述连接器信息中的应用信息对应的级别列表中新增所述连接器信息中的连接器名称;其中,所述连接器卡片的功能列表为多级列表。
16、在一种示例中,所述智能链的连接器的数量为多个,且所述智能链的多个连接器的大语言模型类型包括至少两种类型;所述智能链的适配器的数量为多个,且与所述智能链的多个连接器一一对应连接。
17、在一种示例中,所述输入模块用于接收用户输入的指令,并发送给每个提示词模板,以使每个提示词模板生成各自的大语言模型指令;
18、每个提示词模板用于将各自的大语言模型指令发送到与自身连接的适配器,以使所述适配器通过相连接的连接器调用对应类型的大语言模型,确定所述智能链的功能模块中用于处理所述指令的子智能链,调用该子智能链进行处理,得到处理结果;
19、所述智能链的输出模块,用于向用户输出所述处理结果。
20、另一方面,本申请提供一种智能链的建立装置,所述装置包括:
21、响应模块,用于响应用户对编辑界面的菜单栏的第一操作,在所述编辑界面的预设区域内展示输入卡片、提示词模板卡片、适配器卡片、功能卡片以及输出卡片;响应用户对任意卡片的第二操作,配置该卡片的属性,以建立智能链的输入模块、提示词模板、适配器卡片、功能模块以及输出模块;
22、配置模块,用于响应用户对编辑界面的菜单栏的第三操作,在所述编辑界面的预设区域内展示连接器卡片,所述编辑界面的菜单栏包括至少一个类型的连接器卡片,不同类型的连接器卡片对应不同类型的大语言模型;响应用户对所述连接器卡片的功能列表的第四操作,配置该连接器卡片的属性,以建立所述智能链的第一连接器;
23、处理模块,用于响应用户在所述编辑界面的预设区域内的第五操作,在所述编辑界面的预设区域内展示各卡片之间的连线,以建立所述智能链;所述第五操作的对象为各卡片的端口锚点。
24、又一方面,本申请提供一种电子设备,包括:处理器,以及与所述处理器通信连接的存储器;
25、所述存储器存储计算机执行指令;
26、所述处理器执行所述存储器存储的计算机执行指令,以实现如前所述的方法。
27、又一方面,本申请提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机执行指令,所述计算机执行指令被处理器执行时用于实现如前任一项所述的方法。
28、本申请提供的智能链的建立方法、装置、设备及介质,其中方法包括:响应用户对编辑界面的菜单栏的第一操作,在所述编辑界面的预设区域内展示输入卡片、提示词模板卡片、适配器卡片、功能卡片以及输出卡片;响应用户对任意卡片的第二操作,配置该卡片的属性,以建立智能链的输入模块、提示词模板、适配器卡片、功能模块以及输出模块;响应用户对编辑界面的菜单栏的第三操作,在所述编辑界面的预设区域内展示连接器卡片,所述编辑界面的菜单栏包括至少一个类型的连接器卡片,不同类型的连接器卡片对应不同类型的大语言模型;响应用户对所述连接器卡片的功能列表的第四操作,配置该连接器卡片的属性,以建立所述智能链的第一连接器;响应用户在所述编辑界面的预设区域内的第五操作,在所述编辑界面的预设区域内展示各卡片之间的连线,以建立所述智能链;所述第五操作的对象为各卡片的端口锚点。本申请提供的方法,通过对所建立的智能链以及所用到的子智能链进行独立建模,实现智能链的模块化和解耦,将连接器的调用细节封装到连接器内部,简化智能链的开发流程和结构,提高了智能链开发效率。
技术特征:1.一种智能链的建立方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
3.根据权利要求1所述的方法,其特征在于,所述方法还包括
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
5.根据权利要求4所述的方法,其特征在于,所述基于所述用户输入的新建连接器的连接器信息,将大语言模型的调用处理进行封装,并关联至所述连接器信息中的大语言模型类型对应的连接器卡片的功能列表中,包括:
6.根据权利要求1所述的方法,其特征在于,所述智能链的连接器的数量为多个,且所述智能链的多个连接器的大语言模型类型包括至少两种类型;所述智能链的适配器的数量为多个,且与所述智能链的多个连接器一一对应连接。
7.根据权利要求1-6任一项所述的方法,其特征在于,
8.一种智能链的建立装置,其特征在于,所述装置包括:
9.一种电子设备,其特征在于,包括:处理器,以及与所述处理器通信连接的存储器;
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机执行指令,所述计算机执行指令被处理器执行时用于实现如权利要求1-7中任一项所述的方法。
技术总结本申请提供一种智能链的建立方法、装置、设备及介质,在预设区域内展示输入卡片、提示词模板卡片、适配器卡片、功能卡片以及输出卡片;配置各卡片的属性,以建立智能链的输入模块、提示词模板、适配器卡片、功能模块以及输出模块;在所述编辑界面的预设区域内展示连接器卡片,配置连接器卡片的属性,以建立智能链的第一连接器;在所述编辑界面的预设区域内展示各卡片之间的连线。基于本申请提供的方法,可灵活替换大语言模型的连接器,提高了智能链的开发效率。技术研发人员:王石宝,刘金柱,王月宁受保护的技术使用者:北京炎黄盈动科技发展有限责任公司技术研发日:技术公布日:2024/8/1本文地址:https://www.jishuxx.com/zhuanli/20240802/261900.html
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 YYfuon@163.com 举报,一经查实,本站将立刻删除。